Haarmann ble idømt ni måneders fengsel for overgrep mot en mindreårig, men soningen ble utsatt til det følgende år. Så han var fremdeles på frifot i slutten av 1919, da han møtte Hans Grans, en syttenåring på rømmen, som levde av prostitusjon og salg av brukte klær. Han tilbød den eldre Haarmann sine seksuelle tjenester, og snart ble de også forretningspartnere. De svindlet til seg vasketøy som de deretter solgte, og når de ikke kunne lure plaggene til seg, stjal de dem. Til sist måtte Haarmann sone dommen for overgrep mot Rothe, som han i virkeligheten hadde drept. I fengselet lå Haarmann lavt i terrenget, og i desember 1920 ble han satt fri og kunne ta opp igjen samværet med Grans. De to la ut på en ren orgie i svindel og tyveri. Sammenlagt med Haarmanns uføretrygd og biinntekter fra spaner-virksomheten han utførte for det lokale politiet, hadde de såpass å rutte med at de tidlig i 1922 kunne flytte til Neuestrasse 8, i hjertet av det Hannovers beboere kjente som «det hjemsøkte distriktet». Syttenåringen Adolf Hannappel ble drept i november 1923 fordi Grans ønsket seg de nye buksene hans. 5. januar 1924 ble en annen syttenåring, Ernst Spiecker, drept fordi Grans ønsket seg den «tøffe skjorten» hans. Naboer la merke til at de to vinduene ut mot Neuestrasse ble holdt tildekket, og selv nøkkelhullet i døren var tettet igjen. For en så utadvendt og vennlig nabo som Haarmann var dette en merkelig oppførsel. Fra Neuestrasse flyttet de videre til smuget Rote Reihe (= Røde rekke), som lå tett ved elvebredden.