Након рата, Шернер се као, и доста Немаца, упустио у бављење десно оријентисаном политиком. Био је члан паравојне групе под командом Ритера фон Епа. Та група је већину времена провела борећи се против комунизма. Почетком двадесетих година, Шернер се прикључио Рајхсверу. Током 1923. учествовао је у гушењу Пивничког пуча, а након пуштања Хитлера из затвора, прикључио се Нацистичкој партији. До 1934. напредовао је до чина мајора и пребачен је на службу у генералштаб.