Johannes Kantakouzenos var født i Konstantinopel, men var sønn av Mikael Kantakouzenos som var guvernør i provinsen Morea (Peloponnes i nåværende Hellas). Hans mor var Theodora Palaiologina Angelina og Johannes var dermed født inn i det mektige palaiologiske dynastiet. Han var også knyttet til keiserfamilien gjennom sin kone Eirene Asanina, en tremenning av keiser Andronikos III Palaiologos. Johannes ble en nær venn av Andronikos III og var en av hans viktigste støttespillere i borgerkrigen han førte fra 1321 til 1328 mot sin bestefar, Andronikos II. Da Andronikos III tiltrådte som keiser i 1328 fikk Johannes som administrativ leder og satt som «mégas doméstikos» (øverstkommanderende for hæren) i hele sin regjeringstid. Da Andronikos III døde i 1341 ble Johannes valgt til regent for tronfølgeren, den ni år gamle Johannes V Palaiologos som var sønn til Andronikos III.