Volgens nog ’n tradisie het Mohammed dit in 605 n.C. in die Kaäba se muur ingebou, vyf jaar voor sy eerste openbaring. Dit het sedertdien in ’n paar stukke gebreek wat nou in ’n silwerraam in die kant van die Kaäba ingebou is. Moslems glo dit was eens rein en wit, maar het swart geword weens die sondes van die mense wat daaraan raak.
Die Swart Steen bestaan uit verskeie stukke wat in ’n silwerraam gemonteer is. Die ontblote deel is sowat 20 x 16 cm. Dit is onseker hoe groot dit aanvanklik was omdat die rangskikking verskeie kere oorgedoen is.
Die raam om die Swart Steen is eeue lank deur die Ottomaanse sultans onderhou. Die rame het mettertyd telkens verweer vanweë die konstante aanraking van pelgrims, en dit is van tyd tot tyd vervang. Verweerde rame is teruggeneem na Istanboel, waar hulle in die Topkapi-paleis gehou word.