Karl Schiller tok abitur (videregående skole) i Kiel. Han studerte sosialøkonomi, sosiologi og jus i Kiel, Frankfurt am Main og Berlin og tok i 1935 en sosialøkonomisk doktorgrad i Heidelberg. Schiller ble professor ved universitetet i Hamburg i 1947 og rektor samme sted fra 1956 til 1958.