Після закінчення Громадянської війни Сербін продовжив службу в Червоній Армії. З січня 1942 року — на фронтах Великої Вітчизняної війни. Воював на інтендантських посадах, був начальником тилу 4-ї армії, потім заступником начальника тилу Волховського фронту . Керував постачанням діючих частин фронту під час найважливіших бойових операцій, в тому числі прориву блокади Ленінграда і звільнення Новгорода. 16 жовтня 1943 року Сербину було присвоєно звання генерал-майора.