في عهد النبي محمد كان للمسجد 3 أبواب: باب في المؤخرة، وباب عاتكة (ويُقال له باب الرحمة)، والباب الذي كان يدخل منه (ويُقال له باب جبريل). ثم عندما أُمر المسلمون بتحويل القبلة إلى الكعبة، سُدّ الباب الخلفي، وفُتح باب آخر في الجهة الشمالية. وعند توسعة المسجد في عهد عمر بن الخطاب، زاد على الأبواب الموجودة 3 أبواب: واحد في الجدار الشرقي (باب النساء)، وواحد في الجدار الغربي (باب السلام)، وزاد بابا في الجدار الشمالي، لتكون المحصلة 6 أبواب. وعند توسعة المسجد في عهد عثمان بن عفان، لم يزذ عليها شيئاً. وعند توسعة المسجد في عهد عمر بن عبد العزيز، أصبح للمسجد 20 باباً: 8 في الجهة الشرقية، و8 في الجهة الغربية، و4 في الجهة الشمالية. وبعد زيارة المهدي سنة 165 هـ، زاد 4 أبواب خاصة غير عامة في جهة القبلة. وقد تم إغلاق هذه الأبواب جميعها قديماً عند تجديد حيطان المسجد، وبقيت منها 4 أبواب فقط.واستقر المسجد على 4 أبواب إلى أن أضيف باب في الجهة الشمالية أثناء العمارة المجيدية سنة 1277 هـ، فصار للمسجد 5 أبواب: بابان في الجهة الشرقية (باب جبريل، وباب النساء)، وبابان في الجهة الغربية (باب السلام، وباب الرحمة)، وباب في الجهة الشمالية (الباب المجيدي). وبعد التوسعة السعودية الأولى سنة 1375 هـ الموافق 1955، أصبح للمسجد 10 أبواب بعد أن زيد باب الصديق، وباب سعود، وباب الملك عبد العزيز، وباب عمر، وباب عثمان. وفي عام 1987، فُتح باب البقيع في الجدار الشرقي، بذلك ارتفع عدد الأبواب إلى 11 باباً. وبعد التوسعة السعودية الثانية أصبح 5 منها داخل مبنى التوسعة الجديدة، وصار عدد المداخل الإجمالي 41 مدخلاً، بعضها يتكون من باب واحد، وبعضها من بابين ملتصقين و3 أبواب و5 أبواب متلاصقة، فيصير العدد الإجمالي 85 باباً. وأمّا أهمّ أبواب المسجد التاريخية، فهي:1- باب جبريل:
يقع هذا الباب في الجدار الشرقي للمسجد، وكان يسمى بـ "باب النبي" لأن النبي محمد كان يدخل منه للصّلاة. وكان يُسمى بـ "باب عثمان"، لوقوعه مقابل دار عثمان بن عفان، وسًمي بباب جبريل، لما رُوي أن جبريل جاء على فرس في صورة دحية الكلبي، ووقف بباب المسجد وأشار للنبي محمد بالمسير إلى قريظة. ولما وسع عمر بن عبد العزيز المسجد، جعل مكان الباب باباً مقابل الحجرة النبوية، وقد سُدّ الباب مؤخراً عند تجديد الحائط، وفي مكانه اليوم نافذة إلى خارج المسجد، وهو الشباك الثاني على يمين الخارج من باب جبريل، وكتب في أعلى النافذة آية ﴿إِنَّ اللَّهَ وَمَلائِكَتَهُ يُصَلُّونَ عَلَى النَّبِيِّ يَا أَيُّهَا الَّذِينَ آمَنُوا صَلُّوا عَلَيْهِ وَسَلِّمُوا تَسْلِيمًا﴾
2- باب النساء:
فَتَح هذا الباب عمر بن الخطاب في الجدار الشرقي في مؤخرة المسجد، حيث رُوي عن النبي محمد أنه قال: «لو تركنا هذا الباب للنساء». وكان كلما زيد في المسجد من جهته، بُني في محاذاة الأول.
3- باب الرحمة:
فَتح هذا الباب النبي محمد في الجدار الغربي للمسجد، وكان كلما زِيد في المسجد من جهته، بُني في محاذاة الأول. وكان يُسمّى "باب عاتكة"، لوقوعه مقابل دار عاتكة بنت عبد الله بن يزيد بن معاوية. وسُمي بباب الرحمة لأنه المشار إليه بنحو "دار القضاء" الذي سأل بعض من دخل منه النبي محمد في الاستسقاء، ففعل وأُجيب بالغيث والرحمة.
4- باب السّلام:
ويُقال له أيضاً "باب الخشية" و"باب الخشوع"، وقد فتح هذا الباب عمر بن الخطاب في الجدار الغربي للمسجد، وسُمّي بذلك لأنه في محاذاة المواجهة الشريفة والتي هي موضع الزائر للسّلام على النبي محمد..
5- باب عبد المجيد:
فتح هذا الباب السلطان عبد المجيد الأول في الجهة الشمالية للمسجد سنة 1277 هـ، فعُرف بـ "الباب المجيدي". ولما زيد في المسجد من الجهة الشمالية أثناء التوسعة السعودية الأولى، نُقل الباب في محاذاة مكانه الأول، وهو حالياً داخل التوسعة السعودية الثانية في محاذاة المدخل الرئيسي للمسجد.