Kommunen omfatter den nordøstlige delen av Hinnøya, og fra 1. januar 2013 også tidligere Bjarkøy kommune. Harstad grenser til Senja i nordøst, Andøy ute på Andfjorden i nordvest, Kvæfjord i vest og Tjeldsund i sør. I sørøst forbinder Tjeldsundbrua Hinnøya med fastlandet over Tjeldsundet, og i øst ligger Vågsfjorden hvor Harstad grenser til Ibestad.