Vannet ble utvidet og et lite samfunn etablert under ledelse av den fjerde sikh-guruen, Guru Ram Das (guru 1574–1581). Under ledelse av den femte sikh-guruen, guru Arjan (guru 1581–1606), blet Harmandir Sáhib bygd. Den muslimske helgenen Hazrat Mian Mir Dji fra Lahore la ned grunnsteinen til Harmandir Sáhib i desember 1588, og bygningen ble fullført i 1601. Tempelet har fire innganger — et symbol på toleranse og åpenhet.