L’ensemble du bâtiment est construit avec les couches de pierre bleu gris des collines entourant Makka. Les quatre coins font approximativement face aux quatre points cardinaux. A l’est se trouve la pierre noire (Rukn el Aswad), au nord se trouve el Ruken el Iraqi, à l’ouest al Rukne el Shami et au sud al Rukne el Yamani.

Les quatre murs sont recouverts d’un rideau (Kiswa). Le kiswa est généralement en brocart noir avec le Shahada souligné dans le tissage du tissu. À environ 2/3 de la montée, une bande brodée d’or recouverte de texte coranique est présente.

Dans le coin est, à environ 1,50 mètre au-dessus du sol, le Hajar el Aswad (la pierre noire) est fixé dans le mur. Sa vraie nature est difficile à déterminer, sa forme visible se porte lisse à la main en se touchant et en s’embrassant. Son diamètre est d’environ 12 pouces.

En face du mur nord-ouest mais sans y être relié, se trouve un mur semi-circulaire de marbre blanc. Il mesure 3 pieds de haut et environ 5 pieds d’épaisseur. Cet espace semi-circulaire bénéficie d’une considération particulière et les pèlerins attendent dans la file d’attente pour trouver un endroit pour y prier.

Les tombes d’Ismael et de sa mère Hajera se trouvent à l’intérieur de ce mur semi-circulaire. Entre l’arche et la façade (N.E.) se trouve un petit bâtiment avec un petit dôme, le Maqame Ibrahim. À l’intérieur, une pierre porte les empreintes de deux pieds humains. Le prophète Ibrahim se serait tenu sur cette pierre lors de la construction de la Kaaba et les marques de ses pieds sont miraculeusement préservées.

À la périphérie du bâtiment au nord-est se trouve le «puits Zamzam» (il est maintenant mis sous terre).