Janowitz ble født i Berlin, men vokste opp i Graz, Østerrike, hvor hun ble en naturalisert østerriker. Hun studerte ved konservatoriet i Graz og hadde allerede begynt å synge på høyeste nivå på slutten av 1950-tallet (Haydns , med Herbert von Karajan i 1960). I 1959 gav Karajan henne rollen som Barbarina i Mozarts ved Wiener Staatsoper, som hun ble et fast medlem av i 1962.