Kompalla begynte sin spillerkarriere som back for Gwardia Katowice i 1951. Han vant tre polske juniormesterskaper for klubben før han skiftet til seniorlaget Górnik Katowice i 1956. Han vant det polske mesterskapet i 1957/58-sesongen. På grunn av farens dissidentstatus ble Kompalla vurdert av det polske ishockeyforbundet til å være en risiko for å hoppe av til Vesten og fikk derfor ikke lov til å reise utenlands med klubben.