Hodžas far var protestantisk sogneprest. Han fikk skolegangen på skoler i Banská Bystrica, Sopron og Hermannstadt, studerte jus ved universitetene i n Budapest og i Klausenburg og avsluttet studiene med historie og slavistikk ved Universitetet i Wien. Han hadde en betydelig språkbegavelse og lærte seg ved siden av slovakisk også syv andre språk: Tysk, engelsk, fransk, polsk, serbokroatisk, rumensk og ungarsk.