Johannes III levde mesteparten av sitt liv i Konstantinopel hvor faren hadde bodd siden ca. 1297. Hans far Mikael ble innsatt som keiser 13. juli 1341, men han ble samme dag fengslet av den mektige «megas doux» Johannes evnukken av Limnia. Johannes oppholdt seg da fortsatt i Konstantinopel. I 1342 kom en delegasjon fra Scholarioi-militsen i Trapezunt ledet av kaptein-general Niketas Scholares og Gregorios Meitzomates til Konstantinopel og ba den unge Johannes om å komme med dem til Trapezunt og overta keisertronen. Etter å ha fått støtte fra Genova som hadde store handelsinteresser i riket, dro Johannes med en flåte på fem skip til Trapezunt i september 1342. Han slo sine motstandere i en kort, men voldsom kamp. Etter å ha blitt kronet til keiser i Panagia Chrysokefalos-kirken sørget han for at den avsatte keiserinnen Anna Anachoutlou ble drept og hennes nærmeste støttespillere ble henrettet eller forvist.