Акелаитис је рођен у Чиуодеришкесу, у близини Маријамполеа, у породици сељака. Његов отац је учествовао у устанку 1831. године и осуђен је на прогонство у Сибир где је и умро. Очух Акелаитиса борио се у бици код Маћејовице за време Кошћушковог устанка, док је брат његовог деде служио у пољским легијама у Италији и борио се у бици код Сомосијере у Шпанији током Наполеонових ратова. Сироче Акелаитис је одрастао са баком и дедом и причама о тим биткама. Његова мајка је добила посао спремачице у Маријамполеу, где је Акелаитис узимао приватне часове код локалног свештеника и оргуљаша у Саснави. Затим се уписао у основну школу у Маријамполеу где је матурирао са 17 година. Наставио је студије у четворогодишњој средњој школи у Маријамполеу, где је непрекидно рангиран као један од најбољих ученика, али је напустио школу без дипломе око 1850. Наставио је да самостално учи неколико језика. Поред матерњег литванског, научио је пољски, руски, немачки, француски, латински, нешто грчког, санскрита и хебрејског.