Karl ble adoptert av sin slektning Heinrich zu Schwarzenberg, overhodet for huset Schwarzenberg. Han gikk på gymnasiet i Wien og tok Matura i 1957. Deretter studerte han forstvitenskap og jus. Han deltok i grunnleggelsen av det østerrikske næringslivstidsskriftet i 1969–1970. I 1979 arvet han sin onkel Joseph og ble samtidig overhodet for huset Schwarzenberg.