Danach beendete er aufgrund einer schweren Knieverletzung seine aktive Karriere, blieb jedoch in Italien, um fortan als Trainer tätig zu sein. Zunächst war Weisz kurzzeitig Assistenztrainer von Augusto Rangone bei der US Alessandria, kehrte aber schon bald zu Inter zurück und übernahm das Traineramt bei den Mailändern. Nachdem es in den beiden ersten Saisonen nur jeweils zu Mittelfeldplätzen gereicht hatte, verließ er den Verein vorübergehend und begab sich auf eine ausgedehnte Studienreise nach Südamerika, wo er den Fußball in Argentinien und Uruguay studierte. Während dieser Zeit wurde der Ungar in Mailand von seinem Landsmann und ehemaligem Mitspieler bei Törekvés, József Viola, ersetzt. Nach seiner Rückkehr übernahm Weisz 1929 wieder den inzwischen auf Druck des „Duce“ Benito Mussolini in "AS Ambrosiana" umbenannten Verein. Er führte die Mannschaft rund um Giuseppe Meazza und Luigi Allemandi im Sommer 1930 zum Meistertitel in der erstmals in Form einer einheitlichen gesamtitalienischen Liga ausgetragenen Serie A. Meazza, der 1927 noch nicht einmal volljährig war, wurde von seinem Trainer dem erfahrenen Leopoldo Conti vorgezogen und unter seinem Förderer zum Nationalspieler sowie viele Jahre später Inters erfolgreichster Torschütze. Mit 34 Jahren war Weisz vier Jahre lang Inters jüngster Meistertrainer, bis auf ihn der 33-jährige Armando Castellazzi folgte. Zu dieser Zeit brachte der Ungar, der sich den Spitznamen „Il Mago“ (dt. "der Zauberer") verdient hatte, auch ein Fußball-Lehrbuch mit dem Titel "Il Giuoco del Calcio" (dt. etwa "das Fußballspiel") heraus.