Gemeinsam mit seinem jüngeren Bruder Ferruccio wechselte er 1958 als 16-Jähriger zu Inter Mailand. Sein Debüt in der Serie A absolvierte Mazzola am 10. Juni 1961 in der Partie gegen Juventus Turin. Aus Protest gegen den Verband hatte Inter-Trainer Helenio Herrera auf die Nominierung von Profis verzichtet und lediglich Jugendspieler aufgestellt, die gegen Juventus mit 1:9 unterlagen. Mazzola hatte per Strafstoß den Ehrentreffer erzielt.