Оскар Грёнинг родился 10 июня 1921 года в Нинбурге (провинция Ганновер, Веймарская республика — ныне Нижняя Саксония). Его мать умерла, когда ему было четыре года. Отец, опытный работник на текстильном производстве, воспитывал его в строгости и, будучи гордым националистом, после поражения Германской империи в Первой мировой войне, вступил в военизированную организацию «Стальной шлем», члены которой были недовольны репарациями по Версальскому договору, приведшим, по их мнению, к краху экономики в 1929 году, а также боролись против республики и демократии. Рядом с домом отца располагался магазин железных товаров еврея Селига, у которого было трое детей, в том числе и дочь Анна, с которой Оскар сдружился и играл на улице в шарики. После того как в один из дней члены СС выставили у магазина табличку «Немцы, не покупайте у евреев», они перестали играть на улице и перешли во двор.