Kazimieras Paltarokas gikk på grunnskole i Joniškėlis og på gymnasium i Mintauja i Lettland. Deretter studerte han på presteseminaret i Kaunas og ved Det keiserlige romersk-katolske teologiske akademi i Sankt Petersburg i Russland. Der forsvarte han doktorgradsdissertasjonen og ble magister.