Figlio di Valentino e fratello maggiore di Ferruccio, fu scoperto dall'ex calciatore interista Benito Lorenzi: portato in nerazzurro, trovò come allenatore Giuseppe Meazza. L'esordio in Serie A con l'Inter avvenne il 10 giugno 1961, contro la Juventus nella ripetizione di una gara di campionato sospesa in precedenza: il presidente Angelo Moratti, in segno di protesta, aveva ordinato al tecnico Herrera di schierare la formazione giovanile. L'esito fu una scontata vittoria dei bianconeri per 9-1, con il punto della bandiera siglato — su calcio di rigore — proprio dal diciottenne attaccante. Nella stagione 1961-62, Mazzola raccolse un'altra presenza.