بقي المسجد النبوي الشريف على ما هو عليه بعد زيادة عثمان رضي الله عنه، حتى عهد الوليد بن عبد الملك فكتب الوليد إلى عامله بالمدينة آنذاك عمر بن عبد العزيز( 86 – 93 هـ ) وأمره بشراء الدور التي حول المسجد لضمها إلى التوسعة وتعويض أصحابها وفي صفر سنة 88 هـ شرع عمر في هدم الدور والحجرات لإدخالها في المسجد. عن خارجة بن زيد قال: (بنى رسول الله صلى الله عليه وسلم مسجده سبـعين ذراعا أو يزيد، فلما كان عـثمان وزاد فـيه جعل طول المسـجد مائة وسـتين ذراعا وعرضـه مائة وخمسـين، وجعل أبوابه ستـا كما كانت في زمن عمر. ثم امتدت الزيادة إلى أن دخلت فيها بيوت أمهـات المؤمنين، ومنهـا حجرة عـائشة التي دفن فيها رسول الله صلى الله عليه وسلم وصاحبيه رضي الله عنهما، ثم بنوا على القبر حيطانا مرتفعـة مستديرة حوله لئلا يظهر في المسـجد فـيصلى إليـه العوام، ويؤدي إلى المحـذور الذي نهى عنه رسول الله صلى الله عليه وسلم من اتخاذ المسـاجد على القـبـور، ثم بنوا جـدارا من ركني القـبر الـشمـاليين حرفوهما حتى التقيا، كل ذلك لكي لا يتمكن أحد من استـقبال القـبر، قـالت عائشة رضـي الله عنها: (ولولا ذلك أبرز قبره غير أنه خشي أن يتخذ مسجدا). وهكذا تـم بنـاء الحجرة على خمسة أركان داخل المسجد.


وقد عمل أساس المسجد من الحجارة و الجدار من الحجارة المنحوتة وكذلك الأعمدة رُبطت مع بعضها بالحديد المغطى بالرصاص المصهور، وفي أعلاها جسوراً خشبية حملت سقفاً من خشب الساج، وكان للأعمدة قواعد مربعة وتيجان مذهبة وجعلوا للمسجد سقفين أحدهما فوق الآخر، فأما السقف السفلي فكان ارتفاعه ثلاثة وعشرون ذراعاً والعلوي على ارتفاع 25 ذراعاً وكان عرض الحائط الغربي ذراعين إلا قليلاً ( 95 سم تقريبا ) وأما الحائط الشرقي فكان عرضه ذراعين وأربعة بنان (1،15 سم تقريبا ) وذلك لأن الحائط الشرقي كله في ناحية السيل، ولقد تسبب السيل في انهيار الحائط الشرقي، ولهذا جعلوا سمكه عند البناء أكبر من سمك الجدار الغربي. وقد استعملت النورة والقصة مؤونة للبناء.


وزيادة الوليد من ثلاثة جهات وهي الشرقية والشمالية والغربية، وأصبح طول الجدار الجنوبي مائة وسبعة وستين ذراعا ونصف ( 84 مترا ) والجدار الشمالي 68 مترا والغربي مائتي ذراع (100 متر ) ضمت الجهة القبلية من المسجد خمسة أروقة موازية لإتجاه القبلة وضم الجناح الغربي ثلاثة أروقة موازية للحائط الغربي وضم الجناح الشرقي ثلاثة أروقة موازية للحائط الشرقي وضم الجناح الشمالي خمسة أروقة موازية للحائط الشمالي وتفتح كل الواجهة الجنوبية والشمالية على الصحن الذي يتوسط المسجد عن طريق أحد عشر عقدا محمولة على عشرة أعمدة والواجهة الشرقية والغربية مفتوحة على الصحن بواسطة أربعة عشر عقدا محمولة على ثلاثة عشر عمودا وقد كتب في أعلى العقود حول الصحن اسم الخليفة الوليد بن عبد الملك.

واستخدم في عمارة المسجد أحدث الوسائل في ذلك العصر وجلب عمالا من بلاد فارس وأقيمت الأعمدة من الحجارة محشوة بالحديد والرصاص واستخدمت الفسيفساء والسلاسل والقناديل وزخرفت حيطان المسجد وسقفه ورؤوس الأساطين، وعتبات الأبواب من الداخل بالرخام والذهب والفسيفساء، وأفيد أنه جعل للمسجد عشرين باباً منها ثمانية جهة الشرق. وأحدث في هذه العمارة لأول مرة محرابا مجوفا وأربع مآذن ، في كل ركن من أركان المسجد مئذنة مربعة قال كثير بن حفص: وكانت إحدى المنارات الأربع مطلة على بيت مروان بن الحكم فلما حج سليمان بن عبد الملك أذن المؤذن فأطل عليه، فأمر سليمان بهدم هذه المئذنة فهُدمت حتى سويت بظهر المسجد. وظل المسجد النبوي الشريف بالمنارات الثلاث. وكان طول المنارة الجنوبية الشرقية خمسة وخمسون ذراعاً ( 27،5 مترا ) و طول المنارة الشمالية الشرقية خمسة وخمسون ذراعاً ( 27،5 مترا ) وطول المنارة الشمالية الغربية ثلاثة وخمسون ذراعاً ( 26،5 مترا ) وعرض قاعدة كل منها ثمانية أذرع (4 أمتار تقريبا ). وعملت شرفات في سطح المسجد، كما جعل له ميزاب لأول مرة ، ويروى أنه أمر مولى لحويطب أن يكتب على جدار القبلة سورة الفاتحة ومن سورة الشمس الى آخر سورة الناس كما يروى أن المكبرية في مسجد رسول الله صلى الله عليه وسلم أول ما عرفت في عهد الوليد بن عبد الملك وقدرت توسعة الوليد بحوالي 2369 مترا مربعا وأصبحت المساحة الكلية للمسجد النبوي في عهد الوليد بن عبد الملك حوالي 6440 مترا مربعا.


لم تحدث أي توسعات في المسجد النبوي بعد توسعة الوليد بن عبد الملك وفي سنة 140هـ قام الخليفة أبو جعفر المنصور بتظليل رحبة المسجد وفي سنة 151هـ قام والي المدينة الحسن بن زيد بنقض الرخام الذي كان عليه المنبر ووسعه من جوانبه حتى ألحقه بالسواري وذلك في خلافة المنصور.

زيادة الخليفة العباسي المهدي بن المنصور عام (161-165هـ):
وعندما زار الخليفة المهدي المدينة في حجه سنة 160 هـ، أمر عامله على المدينة جعفر بن سليمان بتوسعة المسجد النبوي الشريف وإعادة إعماره. وبدأ العمل في التوسعة سنة 161هـ بهدم زيادة الوليد الشمالية وأعادها مع زيادة قدرت بخمسة وخمسين ذراعاً أدخل بها دار مُليْكَة ودار شرحبيل بن حَسَنَة، والباقي من دار القرّاء ودار المسْور بن مخرمة، وكانت هذه الدور شمال المسجد النبوي، فأدخلها فيه فكانت توسعته بنحو مائة ذراع ( 50 مترا تقريبا ) من الجهة الشمالية فقط، وقيل دون ذلك، وأختلف المؤرخون ولم يبلغ المسجد 300 ذراع ( 150 مترا ) وإنما بلغ 240 ذراعا (200 مترا ) على ذراع محمد بن الحسن بن زبالة المخزومي الذي ألف كتابا في تاريخ المدينة سنة 199هـ . وقدرت الزيادة في عمارة المهدي ب 2450 مترا مربعا وبلغ ارتفاع الجدران 12.50مترا، وكانت بالجناح الجنوبي خمسة أروقة وخمسة أروقة بالجناح الشمالي وثلاثة أروقة بالجهة الشرقية وأربعة بالجهة الغربية و 17 عموداً في الاتجاه الموازي لحائط القبلة، و28 عموداً في الاتجاه الموازي للحائط الشرقي والغربي، وعدد الأبواب 24 باباً، منها ثمانية أبواب في جدار الحائط الشرقي وثمانية في جدار الحائط الغربي وأربعة أبواب في جدار الحائط الشمالي وأربعة أبواب في جدار الحائط الجنوبي .

وبلغ عدد النوافذ 60 نافذة، منها 19 نافذة في كل من الجدارين الشرقي والغربي، و11 نافذة فتحاتها علوية في كل من الجدارين الشمالي والجنوبي ووضعت أعمدة الحديد في سواري المسجد وزخرف بالفسيفساء وكانت إنارته بقناديل الزيت المعلقة في أنحائه. وبلغت المساحة الكلية للمسجد النبوي 8890 مترا مربعا ودامت هذه التوسعة خمس سنوات كتب في نهايتها على جدار الحائط الشمالي للصحن نصا يؤرخ ابتداء عمارة المهدي سنة 162هـ وانتهاءها سنة 165هـ.


في سنة 193هـ قام والي المدينة في خلافة هارون الرشيد أبو البحتري بن وهب بإصلاح سقف المسجد من جهة القبر ووضع بين القبلة والصحن حجارة لمنع مياه الأمطار من التسرب إلى داخل المسجد .
وفي سنة 202هـ في عهد الخليفة المأمون أجريت بعض الإصلاحات والترميمات في المسجد.
وفي عام 246هـ في عهد الخليفة المتوكل على الله عملت وزرة رخام بارتفاع ( 1،75 متر ) وجرى تبليط الأرض بالرخام الأبيض وكسيت بعض الحيطان بالفسيفساء.
وفي سنة 282هـ أجريت بعض الإصلاحات في الواجهة الشرقية في عهد الخليفة المعتضد.
وفي سنة 548هـ في عهد الخليفة المقتفى جددت وزرة الرخام التي كانت على جدران الحجرة.
وفي سنة 557 هـ أمر نور الدين زنكي بإقامة جدار من الرصاص حول قبر النبي صلى الله عليه وسلم قيل أن السبب في ذلك كانت رؤيا زعموا أنه رآها وانطوت على كشف محاولة بعض الصليبيين الحفر حول قبر النبي صلى الله عليه وسلم والقصة برمتها لم تثبت رغم تكرار ذكرها في بعض الكتب التاريخية.


وفي سنة 566 في عهد الخليفة المستضيىء جرى إتمام كسوة الحيطان الخارجية للحجرة بالرخام.
وفي سنة 576هـ و 589هـ و 593هـ في عهد الخليفة الناصر لدين الله جدد الحائط الشرقي للمئذنة الشمالية الشرقية وعملت قبة في صحن المسجد لحفظ ذخائره بقيت حتى حريق المسجد النبوي الأول.


ففي بداية شهر رمضان المبارك سنة 654هـ شب حريق بالمسجد النبوي وأمتد اللهب الى سقف المسجد وتعاون الناس مع أميرهم آنذاك منيف بن شيحة الحسيني على إخماد الحريق فلم يقدروا ولم يسلم من النار سوى قبة كانت في صحن المسجد عبارة عن خزانة لحفظ ذخائر المسجد النبوي بينها مصحف عثماني ، فلما علم الخليفة العباسي المستعصم بذلك الحريق بادر في سنة 655هـ بإرسال الأموال اللازمة والمؤن والصناع مع ركب الحاج العراقي لاعمار المسجد وإصلاحه، وابتدأت العمارة سنة 656 هـ ولكن البناء لم يستمر بسبب غزو التتار وسقوط بغداد ومقتل الخليفة المستعصم سنة 656هـ.