Under orkesterøvelser krevde han absolutt disiplin og var ikke åpen for musikernes innvendinger. Han insisterte på selv å bestemme hvilke verker som skulle spilles. Ved konserter gjorde han seg selv mest mulig synlig for publikum ved å stå på et podium som raget over orkesteret. Deutsche Grammophons innspillinger med ham som dirigent var i all hovedsak styrt av Karajan. Han avgjorde repertoaret, hvor innspillingen skulle skje, hvilke solister som skulle brukes, hvordan platecoveret skulle se ut, og så videre.