Hiroshima var av både militær og industriell betydning. Flere militære enheter var basert i nærheten, viktigst var hovedkvarteret til feltmarskalk Shunroku Hatas annen generalarmé, som sto for forsvaret av hele det sørlige Japan og holdt til i Hiroshimaborgen. Hata kommanderte om lag mann. De fleste var stasjonert på Kyushu, der japanerne – ganske korrekt – regnet med at den allierte invasjonen var planlagt å finne sted. I Hiroshima var også hovedkvarterene til 59. armé, 5. divisjon og den nylig oppstilte 224. divisjon. Byen ble forsvart av fem batterier luftvernkanoner fra 3. luftvernsdivisjon, med enheter fra 121. og 122. luftvernsregimenter og de 22. og 45. separate luftvernsbataljoner. Totalt var over militære mannskaper stasjonert i byen.