Da Johannes ble 23 år gammel søkte hans far å finne en kristen lærer som kunne gi hans sønn den beste utdannelsen som var tilgjengelig på denne tiden. Opptegnelser viser at Johannes far tilbrakte en del tid på markedsplassen og hvor han kom over flere fanger som var blitt brakt inn fra krigshandlingene ved den italienske kyst. En mann, en siciliansk munk ved navn Cosmas, viste seg å være høyt utdannet. På grunn av hans høye alder hadde han liten verdi som slave og skulle henrettes, men ble frikjøpt av Johannes’ far. Cosmas ble læreren som sørget for sønnen gjorde store framskritt, særlig innenfor musikk, astronomi og teologi. I henhold til hans biografer var Johannes snart likeverdig med Diophantus i algebra og Euklides i geometri.