Det har hersket en rekke oppfatninger om Karajans forhold til nasjonalsosialismen, og det hersker ulike oppfatninger om han meldte seg inn i NSDAP av ideologiske eller av opportunistiske grunner. Dette skjedde uansett i første halvdel av 1930-tallet (kildene oppgir ulike årstall), noe som blant annet sikret ham stillingen som «Generalmusikdirektor» i Aachen og som åpnet mange karrieremessige dører for ham fram til andre verdenskrig. Etter krigen ble imidlertid dette en stor hemsko for ham.