Heinrich wystartował podczas IX Letnich Igrzyskach Olimpijskich w Amsterdamie w 1928 roku. Wziął udział w dwóch konkurencjach pływackich. Na dystansie 400 metrów stylem dowolnym odpadł w fazie eliminacyjnej zajmując w swoim wyścigu, z czasem 5:27,8, trzecie miejsce. W sztafecie 4 × 200 m stylem dowolnym sztafeta niemiecka została zdyskwalifikowana w fazie eliminacyjnej (Berges płynał na trzeciej zmianie).