Johannes IV var gift to ganger. Første gang med en datter av kong Alexander I av Georgia som tilhørte Bagrationidynastiet. I november 1437 giftet han seg med datteren til en tyrkisk sultan, muligens Dawlat Berdi som var khan for krimtatarene, men dette er basert på usikre kilder. Han oppgis å ha hatt inntil tre barn, en sønn og en eller to døtre.