La caratteristica principale all'interno della Kaaba è la Pietra Nera. La Pietra Nera è una roccia di origini sconosciute considerata sacra dai fedeli musulmani. I musulmani credono che questa pietra sia una reliquia del tempo di Adamo ed Eva, ambientata dal profeta Maometto.
Gli scienziati, d'altra parte, credevano che la pietra fosse un meteorite, ma ora credono che potrebbe anche essere un pezzo di basalto o di vetro naturale. La Kaaba contiene anche tre pilastri che sostengono il tetto, e un piccolo tavolo d'altare usato per ospitare oli profumati. Diversi oggetti simili a lampade pendono dal tetto della Kaaba.