عن أنس بن مالك رضي الله عنه قال: أمر رسول الله صلى الله عليه وسلم ببناء المسجد فأرسل إلى ملأ من بني النجار فجاءوا، فقال: «يا بني النجار ثامِنوني بحائطكم هذا». فقالوا: لا والله لا نطلب ثمنه إلا إلى الله، قال: فكان فيه ما أقول لكم، كانت فيه قبور المشركين، وكانت فيه خِرَب، وكان فيه نخل، فأمر رسول الله صلى الله عليه وسلم بقبور المشركين فنبشت، وبالخرب فسويت، وبالنخل فقطع، قاقطل: «فصفوا النخل قبلة المسجد واجعلوا عضادتيه حجارة». قال: جعلوا ينقلون ذلك الصخر وهم يرتجزون، ورسول الله صلى الله عليه وسلم معهم يقولون: «اللهم إنه لا خير إلا خير الآخرة فانصر الأنصار والمهاجرة». رواه البخاري.
بني أساس المسجد بالحجارة وأقيمت أعمدته من جذوع النخل وجدرانه من اللبن وسقف بعضه بجريد النخل وكان السقف يوكف المطر فطلبوا إصلاحه لرسول الله صلى الله عليه وسلم فقال لهم «عريشاً كعريش موسى ثمامات وخشبات وظلة كظلة موسى، والأمر أعجل من ذلك». قيل فما ظلة موسى قال: «كان إذا قام أصاب رأسه السقف».

وروى يحيى بن الحسن من طريق عبد العزيز بن عمر، عن يزيد بن السائب، عن خارجة بن زيد بن ثابت رضي الله عنه قال: بنى رسول الله صلى الله عليه وسلم مسجده سبعين في ستين ذراعاً أو يزيد، ولبّن لبنه من بقيع الخبخبة وجعله جداراً، وجعل سواريه خشباً شقة شقة، وجعل وسطه رحبة، وبنى بيتين لزوجتيه.

قال يحيى بن حسين حدثني هارون بن موسى بن محمد بن يحيى قال: (كان فيما انتهى الينا من ذرع مسجد النبي صلى الله عليه وسلم ذلك من القبلة الى حده الشامي أربعا وخمسين ذراعا وثلثي ذراع وحده من المشرق ثلاثة وستون ذراعا ويكون ذلك مكسرا ثلاثة آلاف وأربعمائة ذراع وأربع وستون ذراعا ) (3444) وذكر أن أجمل ما تحصل من الروايات أن طول المسجد سبعون ذراعاً، وعرضه ستون ذراعاً ومساحته ( 4200 ) ذراعا مربعا أي ما يعادل( 1050) مترا مربعا، وارتفاعه خمسة أذرع.
وفي الصحيحين: (كان جدار المسجد عند المنبر ما كادت الشاة تجوزها ) ونقل عن ابن زبالة ويحيى أن جداره قبل أن يظلل قامة وشيئ. وأقيمت للمسجد ثلاثة أبواب: باب في مؤخرة المسجد من الجهة الجنوبية وباب من الجهة الغربية عرف بباب عاتكة وهو المسمى باب الرحمة وباب آل عثمان إلى جهة الشرق المسمى باب جبريل وكان رسول الله صلى الله عليه وسلم يدخل منه وقبلة المسجد حينئذ تجاه بيت المقدس وروى البخاري عن البراء بن عازب رضي الله عنه قال: ( كان رسول الله صلى الله عليه وسلم يصلي نحو بيت المقدس ستة عشر أو سبعة عشر شهرا )


وذكر القرطبي أن رسول الله صلى الله عليه وسلم أقام رهطا على زوايا المسجد ليعدلوا القبلة فأتاه جبريل عليه السلام فقال: ( يا رسول الله ضع القبلة وأنت تنظر الى الكعبة. ) قال الحافظ الذهبي: ( أن القبلة لما حولت بقي حائط القبلة الأولى مكان أهل الصفة ) وعندما تحولت القبلة نحو الكعبة المشرفة في شعبان من السنة الثانية للهجرة، أُغلق الباب الذي في الحائط الجنوبي، وحل محله باب في الحائط الشمالي وبنيت في تلك الجهة أروقة للوقاية من الشمس و ستة أعمدة ثلاثة عن يمين المنبر وثلاثة عن شماله وبقيت الأروقة من الجهة الشمالية على ما هي عليه، ومع هذ التغيير أصبحت حجرات أمهات المؤمنين التي كانت في مؤخرة المسجد من جهة الشرق في مقدمة المسجد من جهة الشرق، فكانت هذه هي العمارة الأولى للمسجد النبوي الشريف استهلت في ربيع الأول من عام واحد للهجرة النبوية.

وبعد فتح خيبر قام رسول الله صلى الله عليه وسلم في شهر محرم من السنة السابعة للهجرة فزاد في طول المسجد وعرضه وبلغت ذرعته بعد هذه التوسعة مائة ذراع × مائة ذراع وهو ما يقارب 2475 م2.

وروى الترمذي أن عثمان بن عفان هو الذي أشترى تلك الأرض المضافة وأكمل سقف المسجد من الجريد والسعف وبهذا أصبح المسجد مربعا وزاد رسول الله صلى الله عليه وسلم في عدد الأعمدة فأصبح لكل رواق تسعة أعمدة بدلا من ستة فزاد اثنين من جهة الغرب وواحداُ من جهة الشرق فالتصقت حجرات أمهات المؤمنين بالمسجد وبلغت الزيادة من جهة الشمال أربعين ذراعا وأعيد بناء الجدران باستخدام لبنتين متخالفتين ولم تكن للمسجد مئذنة ولا محراب مجوف وكان النبي صلى الله عليه وسلم يخطب أولاً إلى جذع نخلة ثم صنع له منبر يخطب عليه يتكون من درجتين طوله وارتفاعه ذراعان وعرضه ذراع بينه وبين المقام الذي كان يصلي فيه أربعة عشر ذراعا وشبرا. وتوجد بالمسجد النبوي روضة شريفة وردت في فضلها أحاديث عن النبي صلى الله عليه وسلم منها ما رواه البخاري في صحيحه عن أبي هريرة رضي الله عنه أن النبي صلى الله عليه وسلم قال: «ما بين بيتي ومنبري روضة من رياض الجنة ومنبري على حوضي »2 وقد حدد الحديث الشريف موقع الروضة في المسجد ، و بلغت ذرعتها من المنبر إلى الحجرة ثلاث وخمسون ذراعاً، أي حوالي 22م طولا و15 مترا عرضا. وقد أضيء المسجد على عهد رسول الله صلى الله عليه وسلم .
وروى أبو نعيم عن أبي هريرة رضي الله عنه قال: ( أول من أسرج في المسجد تميم الداري ).