El 1 de julio de 1964, Jan Buchvaldek renunció como presidente del Comité Nacional Municipal de Ostrava y, como tal, Kempný fue alcalde de la ciudad hasta que fue sucedido por Zdeněk Kupka en 1968. Durante su mandato de cuatro años promovió la construcción de viviendas, la expansión de urbanizaciones prefabricadas en los distritos de Poruba y Zábřeh nad Odrou, así como la minería en la región de Ostrava. Tras el final de la Primavera de Praga, se convirtió en miembro del Comité Central del Partido Comunista el 17 de noviembre de 1968 y fue miembro de este organismo hasta el 20 de diciembre de 1989. Al mismo tiempo, el 17 de noviembre de 1968, se convirtió en secretario del Comité Central del Partido Comunista y miembro del secretariado del Comité Central por primera vez. Fue confirmado en estas funciones en el pleno del Comité Central el 17 de abril de 1969 y ocupó el cargo hasta el 29 de septiembre de 1969. El 1 de enero de 1969, también se convirtió en miembro de la recién creada Asamblea Federal de Checoslovaquia (Federální shromáždění) y perteneció a la Cámara del Pueblo (Sněmovna národů) hasta el 30 de enero de 1990. Al mismo tiempo, fue elegido miembro del Consejo Nacional Checo (Česká národní rada) por primera vez el 1 de enero de 1969, y fue miembro de dicho parlamento de la República Socialista Checa, hasta el 21 de octubre de 1976.