Sultan Mahmud døde den 30. april 1030. Hans gravsted ligger i Ghazni i moderne Afghanistan.