I 1886 dro Hertzberg til Berlin for å få en erklæring fra den tyske psykiateren Carl Westphal. Bakgrunnen var at han så sin stilling ved universitetet truet på grunn av rykter om at han hadde hatt seksuelle forhold til menn fra arbeiderklassen. Ved å bli diagnostisert med ”conträre Sexualempfindung”, det vil si at hans tiltrekning til menn var betinget av en medfødt tilstand, håpet han å oppnå forståelse for sine handlinger og unngå oppsigelse. Westphals erklæring gjorde ikke noe inntrykk på universitetsledelsen og ledelsen mente at den medfødte tilstanden gjorde det desto viktigere å holde Hertzberg borte fra undervisningen. Hertzberg måtte gå fra sin stilling. Dette er første gangen kategorien ”conträre sexualempfindung” dukker opp i et norsk kildemateriale.