Nach dem Einmarsch der Warschauer Pakt-Truppen im August 1968 wurde Kárný wieder aus der Partei ausgeschlossen und von seinem Redakteursposten entfernt. Bis zu seiner Pensionierung im Jahre 1974 arbeitete er im reprographischen Zentrum eines Beratungsinstituts in Prag. Von da an widmete er sich zusammen mit Frau Margita historischen Forschungen und der Publikation der Ergebnisse. Ein Auftrag des Jüdischen Museums Prag über den nationalsozialistischen Judenmord in Böhmen und dessen Veröffentlichung in dessen Zeitschrift "Judaica Bohemiae" begründete den Ruf Kárnýs als Historiker.