Weghe vant en olympisk sølvmedalje i svømming under OL 1936 i Berlin. Han kom på andreplass i finalen på 100 meter rygg, 1,8 sekund bak sin landsmannen Adolph Kiefer som vant med tiden 1.05,9 ny olympisk rekord.