يصف ملخص خان أكاديمي للفن والعمارة الإسلامية الكعبة بأنها مزار ما قبل الإسلام في مكة. وتؤكد التقاليد الإسلامية أن النبي إبراهيم وابنه إسماعيل بنيا الهيكل الأصلي على شكل مبنى مستطيل بسيط غير مسقوف. أما قبيلة قريش فقد أعادت بناءه حوالي عام 608 بعد أضرار ناجمة عن حريق وفيضانات مع رفع الباب فوق مستوى الأرض لحمايته. وخلال هذا المشروع ساعد محمد البالغ من العمر 35 عاماً في تسوية نزاع قبلي حول وضع الحجر الأسود.
وسع الخلفاء الإسلاميون الأوائل الموقع لخدمة مجتمع متزايد من المؤمنين وفقاً للملخص التاريخي ذاته. فقد وسع الخليفة الثاني عمر المنطقة المحيطة بين عامي 634 و644 لاستيعاب المزيد من الحجاج خلال الحج. وأضاف خليفته عثمان أروقة حول الساحة وأدمج معالم أخرى في المزار. وساهمت هذه التغييرات في ترسيخ مجمع المسجد الحرام كمركز للمسجد الذي يزوره الملايين حتى اليوم.
أدت حرب أهلية عام 683 إلى مزيد من الدمار عندما اندلع حريق في الكعبة خلال حصار مكة كما سجلت السجلات الكلاسيكية التي استشهد بها موقع تخطيط الحج والعمرة. وقام عبد الله بن الزبير الذي كان يسيطر على المدينة آنذاك بإعادة بناء المزار بأبعاد مرتبطة بإبراهيم وأصلح الحجر الأسود المتصدع باستخدام الفضة. وهدم الحجاج بن يوسف فيما بعد أجزاء من ذلك الهيكل عام 693 بأوامر من الخليفة الأموي وأعاد الحجم السابق الذي كان في عصر قريش. وقد أبرزت هذه الأحداث الأهمية الرمزية للمبنى في الصراعات السياسية المسلمة المبكرة.
تسببت فيضانات شديدة عام 1626 في إلحاق أضرار بالكعبة والمسجد مما دفع إلى إعادة بناء كاملة اكتملت عام 1631 تحت حكم السلطان العثماني مراد الرابع وفقاً للروايات المحفوظة في التواريخ العربية التي أشارت إليها ويكيبيديا. أشرف مهندسون مصريون على المشروع الذي استخدم حجارة الغرانيت المحلية وأعاد بناء المكعب وساحته المحيطة. وظل ذلك التصميم أساس الشكل الحالي مع تحديثات تدريجية فقط في الفترات اللاحقة. وكان الحكام العثمانيون يرون رعاية المواقع المقدسة في الحجاز واجباً دينياً أساسياً.
حدث ترميم حديث كبير بين مايو وأكتوبر 1996 عندما عززت السلطات السعودية الأساسات وعالجت التآكل الهيكلي كما وثقت التقارير الفنية عن المزار. حافظ العمل على المظهر التاريخي مع تطبيق أساليب هندسية معاصرة. وقد أجرت الجهات المعنية منذ ذلك الحين صيانة دورية تشمل حفل غسل سنوي يجري داخل المبنى. وتضمن هذه الجهود سلامة الموقع لملايين الحجاج الذين يطوفون حوله خلال العمرة والحج.
حافظت التصاوير الفنية للكعبة على صورتها عبر العصور غالباً ما تتمحور حولها في خرائط العالم ورسوم الحج كما قام مجلد من دي غروتر بريل بتوثيق ذلك مع أمثلة من القرنين السادس عشر والتاسع عشر. ساعدت المخططات الوسطى المؤمنين في تحديد اتجاه القبلة الصحيح للصلاة في حين التقطت المصغرات مشاهد التدين والكوارث الطبيعية التي أثرت على المسجد. ويعرض موقع ميدل إيست آي مثل هذه الصور كيف تكيف الفنانون أساليبهم لنقل الدور الروحي الدائم للمزار. وتوفر إحدى المناظر الطبوغرافية من عام 1710 سياقاً مفصلاً حول مخطط مكة في ذلك الوقت.