Ян Людвигович Райнберг родился 27 января 1901 года в губернском городе Риге Российской империи (ныне столица Латвийской Республики) в семье портового рабочего. Латыш. Учился в гимназии. Во время Первой мировой войны семья Райнбергов переехала в Екатеринослав. Здесь Ян Людвигович окончил горное училище, но поработать на шахте ему не довелось. В 1917—1919 годах Екатеринослав пережил революционные потрясения, падение Донецко-Криворожской советской республики, германскую оккупацию и режим гетмана П. П. Скоропадского, набеги петлюровцев и погромы махновцев. 26 января 1919 года особый отряд под командованием П. Е. Дыбенко занял Екатеринослав, на некоторое время установив в городе Советскую власть, и весной того же года восемнадцатилетний Ян Райнберг добровольно вступил в ряды Рабоче-крестьянской Красной Армии. Сражаясь на Украинском, Южном и Юго-Западном фронтах Гражданской войны, Ян Людвигович участвовал в боях с отрядами армии Украинской Народной Республики, подавлении мятежа атамана Н. А. Григорьева, отражении наступления Вооружённых сил Юга России. Отличившийся в боях красноармеец был награждён орденом Красного Знамени и направлен на учёбу в высшую стрелково-тактическую школу командного состава, которую он окончил в конце 1920 года. Военную службу молодой красный командир продолжил в Монголии, где участвовал в разгроме Азиатской дивизии барона Р. Ф. Унгерна. После окончания Гражданской войны Ян Людвигович продолжал службу в армии. В 1932 году он окончил курсы усовершенствования командного состава «Выстрел». В запас Я. Л. Райнберг уволился с должности командира пулемётного батальона в 1938 году. Жил в городе Харькове. С сентября 1940 года работал начальником кафедры военной и физической подготовки Харьковского авиационного института. С началом Великой Отечественной войны в 1941 году Ян Людвигович вместе с учебным заведением эвакуировался в Казань, где занимался подготовкой военных кадров для фронта.