Ян Ларри родился 2 (15) февраля 1900 года в Риге, в 9 лет осиротел, потом бродяжничал, работал учеником часовщика, половым в трактире. Во время Первой мировой войны был призван в царскую армию, после Великой Октябрьской революции перешёл на сторону Советской власти, в Гражданскую войну воевал в Красной армии.