Gusztáv Sebes po zakończeniu kariery piłkarskiej rozpoczął karierę trenerską. Trenował kluby: AC Szentlõrinci (1940–1942), WMKASE (1942–1943), WMFC Csepeli (1943–1944) oraz MTE Budafoki (1945–1946). W 1948 roku po raz pierwszy objął reprezentację Węgier, którą po raz pierwszy poprowadził 19 września 1948 roku na Stadionie Wojska Polskiego w Warszawie w wygranym 2:6 meczu z reprezentacją Polski rozegranym w ramach Balkan Cup 1948. W 1948 roku prowadził drużynę "Madziarów" w czterech meczach. W 1949 roku na stałe przejął reprezentację Węgier, która pod jego wodzą odnosiła największe sukcesy w historii oraz zyskała przydomek tzw. "Złota jedenastka". W 1952 roku wywalczył z drużyną mistrzostwo olimpijskie, a 25 listopada 1953 roku "Złota jedenastka" na stadionie Wembley w Londynie sensacyjnie wygrała w meczu towarzyskim z reprezentacją Anglii 3:6 oraz w tym samym roku zdobył Puchar Europy Środkowej 1948–1953.