Wkrótce po zakończeniu konferencji poczdamskiej, prezydent podjął decyzję o zrzuceniu dwóch bomb atomowych na Japonię. Pierwsza z nich została zrzucona 6 sierpnia na Hiroszimę, a trzy dni później kolejną zrzucono na Nagasaki. W wyniku obu eksplozji zmarło łącznie około 160 tysięcy ludzi. W wyniku tych działań, Cesarstwo podpisało kapitulację 14 sierpnia, którą przyjął generał Douglas MacArthur. Powodem, podanym przez Trumana, użycia broni jądrowej było zastraszenie Japonii i wymuszenie kapitulacji. Jednak według niektórych amerykańskich wojskowych, jak choćby generała Henry’ego Arnolda i admirała Williama Halseya, zrzucenie bomb było błędem, ponieważ Cesarstwo i tak było na granicy przegrania wojny i konieczności poddania się. Innym powodem użycia broni atomowej było wywarcie nacisku i demonstracja siły wobec ZSRR. Pomimo wątpliwości sekretarza wojny, Henry’ego Stimsona, poprzez takie działanie wobec Japonii, Truman rozpoczął dyplomację z pozycji siły wobec Związku Radzieckiego, co było zaczątkiem zimnej wojny.