Kompalla ble født i Katowice inn i en etnisk tysk familie (). Hans far hadde meldt seg frivillig til tjeneste i Wehrmacht under andre verdenskrig og ble dømt til seks års fengsel etter krigen for sin motstand mot Polens kommunistiske myndigheter. Dette forhindret Kompalla i å reise utenlands frem til familien fikk tillatelse til å emigrere til Vest-Tyskland i 1958.