I 1934 begynte Schwarzkopf å studere ved Berlins musikkhøyskole, først som mezzosopran, senere som koloratur-sopran. Hun gjorde sin profesjonelle debut ved Staatsoper Berlin den 15. april 1938 som andre blomsterpike i annen akt av Richard Wagners . Hun sang i Berlin i fire år, og ble blant annet medlem av nazipartiet, en beslutning som førte til at hun lenge ble boikottet i USA etter krigen.