Johannes døde i Limnia i landets vestlige del i 1297. 1300-tallskronikøren Johannes Lazaropoulos skriver i sin «Logos» at da hans sønn Alexios II Megas Komnenos etterfulgte ham var den vestlige delen av riket under sterkt press fra de «gudløse agarenene» og bare noen få byer var under kontroll av Trapezunt-styrkene. Johannes kan ha ledet sine styrker i kamp da han døde. Liket av ham ble transportert tilbake til hovedstaden og begravet i Panagia Chrysokephalos-kirken. Portretter av Johannes og hans kone Eudokia kunne ses i St.Gregorius-kirken i Nyssa fram til restaureringen i 1863. Portrettene var spesielle ved at Johannes’ klær var utsmykket med den en-hodede ørn som var emblemet til Komnenos-slekten i Trapezunt, mens Eudokia bar den to-hodede ørn som var det bysantinske keiseremblemet.