På klubplan spillede Grosso hele sin karriere, kun afbrudt af et kortvarigt lejeophold hos bysbørnene fra Atlético Madrid, hos Real Madrid i sin fødeby. Han spillede over 250 ligakampe for klubben, og var med til at vinde det spanske mesterskab hele syv gange, pokalturneringen Copa del Rey tre gange samt Mesterholdenes Europa Cup finale 1966.