Koháks Eltern waren während des Zweiten Weltkriegs Teil der tschechoslowakischen Widerstandsbewegung. Nach dem Februarputsch flüchtete die Familie in die Vereinigten Staaten. Erazim Kohák studierte Philosophie und Religionswissenschaft an der Colgate University und der Yale University. Im Jahr 1977 wurde Kohák zum Professor an der Boston University in Massachusetts ernannt. Kohák war Fellow am Institut für die Wissenschaften vom Menschen in Wien. Nach der Samtenen Revolution konnte Kohák die Tschechoslowakei wieder besuchen, und er unterrichtete zwischen 1991 und 1994 abwechselnd in Prag und Boston, bis er 1995 endgültig nach Tschechien zurückkehrte und Professor an der Philosophischen Fakultät der Karls-Universität wurde.