মদীনায় প্রবেশ করে রাসূল (ছাঃ)-এর উটনী যে স্থানে প্রথম বসে পড়েছিল, সেই স্থানটিই হ’ল পরবর্তীতে মসজিদে নববীর দরজার স্থান। স্থানটির মালিক ছিল দু’জন ইয়াতীম বালক সাহল ও সোহায়েল বিন রাফে‘ বিন ‘আমর। এটি তখন তাদের খেজুর শুকানোর চাতাল ছিল (ইবনু হিশাম ১/৪৯৫)। রাসূলুল্লাহ (ছাঃ) দশ দীনার মূল্যে স্থানটি খরীদ করলেন। আবুবকর (রাঃ) মূল্য পরিশোধ করলেন।[1] অতঃপর তার আশপাশের মুশরিকদের কবরগুলি উঠিয়ে ফেলা হয় এবং ভগ্নস্তূপগুলি সরিয়ে স্থানটি সমতল করা হয়। গারক্বাদের খেজুর গাছগুলি উঠিয়ে সেগুলিকে ক্বিবলার দিকে সারিবদ্ধভাবে পুঁতে দেওয়া হয়’ (বুখারী হা/৪২৮)। অতঃপর খেজুর গাছ ও তার পাতা দিয়ে মসজিদ তৈরী হয়। চার বছর পর এটি কাঁচা ইট দিয়ে নির্মাণ করা হয়।[2] ঐ সময় আল্লাহর হুকুমে ক্বিবলা ছিল বায়তুল মুক্বাদ্দাস, যা ছিল ইহূদীদের ক্বিবলা এবং মদীনা থেকে উত্তর দিকে। মসজিদের ভিত ছিল প্রায় তিন হাত উঁচু। দরজা ছিল তিনটি। যার দু’বাহুর স্তম্ভগুলি ছিল পাথরের, মধ্যের খাম্বাগুলি খেজুর বৃক্ষের, দেওয়াল কাঁচা ইটের, ছাদ খেজুর পাতার এবং বালু ও ছোট কংকর বিছানো মেঝে- এই নিয়ে তৈরী হ’ল মসজিদে নববী, যা তখন ছিল ৭০×৬০×৫ হাত মোট ৪২০০ বর্গ হাত আয়তন বিশিষ্ট। যেখানে বর্ষায় বৃষ্টি পড়ত। ১৬ বা ১৭ মাস পরে ক্বিবলা পরিবর্তিত হ’লে উত্তর দেওয়ালের বদলে দক্ষিণ দেওয়ালের দিকে ক্বিবলা ঘুরে যায়। ফলে পিছনে একমাত্র দরজাটিই এখন ক্বিবলা হয়েছে।[3] কেননা মক্কা হ’ল মদীনা থেকে দক্ষিণ দিকে।

‘উবাদাহ বিন ছামেত (রাঃ) বলেন, আনছারগণ মাল জমা করে রাসূল (ছাঃ)-এর নিকটে আসেন এবং বলেন, হে আল্লাহর রাসূল! এদিয়ে আপনি মসজিদটি আরও সুন্দরভাবে নির্মাণ করুন। কতদিন আমরা এই ছাপড়ার নীচে ছালাত আদায় করব? জবাবে রাসূল (ছাঃ) বলেন,مَا بِيْ رَغْبَةٌ عن أخِي موسى، عَرِيْشٌ كَعَريشِ مُوسى ‘আমার ভাই মূসার ছাপড়ার ন্যায় ছাপড়া থেকে ফিরে আসতে আমার কোন আগ্রহ নেই’।[4]