Kosmas stammet trolig fra en velhavende slekt fra Praha som hadde avlet en rekke prester. Hans fødeår er ukjent. Etter utdannelse i Praha studerte han fra 1075 til 1086 grammatikk og dialektikk hos magister Franko i Liège. Han var gift med Božetěcha og hadde sønnen Henrik. I flere kilder formodes det at hans sønn er identisk med biskopen av Olmütz, biskop Heinrich Zdik.