Iniziò allora il suo apprendistato da allenatore tra Ungheria, Uruguay e Alessandria, dove diventò, per il campionato di Prima Divisione 1925-1926, il vice di Augusto Rangone. Alla fine dell'anno tornò all'Inter, che subito gli affidò la panchina della prima squadra, con la quale ottenne il quinto posto in classifica nel campionato di esordio e il settimo l'annata successiva. Negli stessi anni, però, a causa delle pressioni dell'allora governo fascista, Weisz e sua moglie Ilona Rechnitzer, ebrea ungherese conosciuta durante il periodo sulla panchina dello Szombathely e sposata nel 1929, furono costretti a italianizzare il loro cognome in «Veisz»; similmente, anche l'Inter fu obbligata a cambiare denominazione in un più autarchico «Ambrosiana». Nonostante questo, proprio con la formazione milanese Weisz vinse nella stagione 1929-1930 il primo campionato a "girone unico" nella storia del calcio italiano: a trentaquattro anni, l'ungherese è tuttora il più giovane allenatore straniero ad aver mai trionfato in Serie A (il primato assoluto appartiene al trentatreenne Armando Castellazzi, alla guida dei nerazzurri nel 1938 dopo aver militato come mediano nell'Ambrosiana di Weisz).