Lüth vervet seg til Kriegsmarine i 1933, med grad av seekadett. Deretter deltok han på et åtte måneder langt treningsoppdrag på den lette krysseren «Karlsruhe». I 1934 tjenestegjorde han på lettkrysseren «Königsberg». I februar 1937 ble han overført til ubåten U-27. Denne ubåten patruljerte under den spanske borgerkrigen.