Etter krigens slutt tjenestegjorde han først i tre år i Kystforsvarsavdeling Lehe (Kystforsvarsavdeling IV) og ble deretter i oktober 1922, som løytnant til sjøs, kommandant for tenderen T 154 i Reichsmarine. Den 19. september 1924 ble Ruhfus overført som kommandant for torpedobåten T 157 til 4. torpedobåt-halvflotilje, og i denne stillingen ble han den 1. august 1925 med RDA fra 1. mai 1925 forfremmet til kapteinløytnant. Fra september 1926 var han utdanningsoffiser på den lette krysseren Emden, fra mars 1928 kompanisjef i skipsstamdivisjonen i Nordsjøen, og fra februar 1929 kompanisjef i II. marineartilleri-avdeling. På seilskoleskipet Niobe tjenestegjorde han fra september 1930 først som utdanningsleder og fra februar 1932 som kommandant. I 1932 kantret seilskoleskipet Niobe under en plutselig tordenværbyge på en vakker sommerdag, en byge som i en slik form bare oppstår en gang hvert 100. år, utenfor Fehmarn. På grunn av Niobes forlis den 26. juli 1932 ble han stilt for krigsrett, som den 3. november 1932 frikjente ham for skyld i tapet av skipet og mange menneskeliv. I denne perioden var han tilgjengelig for utdanningsinspeksjonen og tjenestegjorde som lærer på testbåten T 23. Fra slutten av desember 1932 tjenestegjorde han som navigasjonsoffiser på den lette krysseren Königsberg, ble forfremmet til korvettenkaptein den 1. januar 1933 og ble den 27. september 1933 forfremmet til førsteoffiser.