Karl ble olympisk mester i roing under OL 1936 i Berlin. Han var med på den tyske fireren som vant firer uten styrmann foran Storbritannia og Sveits. De andre roerne på laget var Rudolf Eckstein, Anton Rom og Wilhelm Menne.