Haushofer gikk i dekning de bayerske alper etter 20. juli-attentatet i 1944. Han ble arrestert i desember 1944 og satt i Moabit-fengselet i Berlin. Haushofer bel utenomrettslig henrettet av SS-soldater i Berlin natten mellom 22 og 23. april 1945, mens Den røde armé var på vei inn i byen. Sammen med femten andre fanger ble han stilt mot en vegg og skutt, en fange overlevde og fortalte om hendelsen. Broren Heinz identifiserte liket av Albrecht som holdt et sammenkrøllet hefte med med 79 sonetter skrevet i fangenskap. Noen av sonettene er gjendiktet til norsk av Andre Bjerke.