Antonijs Urbšs ble født i det litauiske område i Baltikum. Guttens utdanning og oppvekst ble ivaretatt av morens bror, prest Kazmirs Dovgiolovic, som tjenestegjorde i det latviske område.