Якоб Гриммингер родился 25 апреля 1892 года в Аугсбурге. Он был мобилизован в Германскую имперскую армию, когда ему было 16 лет. Во время Первой мировой войны служил механиком в воздушном полку на Галлиполийском фронте, был награждён Железным крестом 2-го класса и Галлиполийской звездой.