Sangen ble skrevet av Chris Cornell. Cornell har sagt at han skrev sangen på cirka 15 minutter. Cornell fikk ideen til sangen mens han brukte en Leslie-høyttaler. Kim Thayil sa at Leslie-høyttaler var perfekt for sangen, som er veldig «Beatles-aktig» og har en særegen lyd. «Black Hole Sun» ble skrevet i Drop D-gitarstemming.