Kállai var medlem av kommunistpartiets sentralkomité fra 1945, og tjenestegjorde som landets utenriksminister i perioden 1949 til 1951. Han var deretter kulturminister fra 1955 til 1958, og siden visestatsminister under János Kádár fra 1960 til 1965.