Jako mladý vstoupil do rakousko-uherské armády a účastnil se bojů I. světové války. Po roce 1919 se angažoval v boji proti představitelům komunistické Maďarské republiky rad, jenž dočasně existovala od 21. března do 1. srpna 1919. Byl jedním z čelných představitelů tzv. Bílého teroru.Po porážce komunistů a vzniku Maďarského království se stal významnou politickou osobností nového státu. V roce 1929 byl jmenován generálmajorem a zaujal místo maďarského ministra obrany. V říjnu 1932 nahradil v premiérském úřadě nevýrazného Gyulu Károlyiho a zahájil sbližování Maďarska s fašistickou Itálii. Jeho politický program, nesoucí jméno "Národní pracovní plán", měl celkem 95 bodů, k nimž patřil například odklon od demokratických principů či revize Trianonské mírové smlouvy z roku 1920. Roku 1934 Gömbös navštívil Itálii, kde spolu s Mussolinim a rakouským kancléřem Dollfußem uzavřel tzv. Římské protokoly, jejichž cílem bylo oslabit pozice států Malé dohody a tím dosáhnout budoucí možné revize Pařížských předměstských smluv. Gömbös se též snažil udržovat dobré vztahy s nacistickým Německem. Byl prvním zahraničním politikem, který v Berlíně navštívil nového kancléře Adolfa Hitlera. Ten však Gömböse příliš nepodporoval a na rozdíl od Mussoliniho nesouhlasil ani s Gömbösovými ambiciozními plány na rozšíření maďarské armády.