Under sommerlekene i 1992 i Barcelona padlet han sammen med Bruno Dreossi inn til en bronse i K-2 500m. I 1996 i Atlanta var Rossi i båt med Daniele Scarpa på K-2 1000m hvor de tok en gull sammen. Dagen etter gull-løpet var Rossi på ny jakt etter nok et gull som han tok i K-1 500m foran Knut Holmann. Til Sommer-OL 2000 i Sydney var det en ny padlepartner i båten Beniamino Bonomi i K-2 500m og for K-2 1000m. Det var på K-2 1000m igjen at Rossi med Bonomi skulle gjøre det best med en gull (Rossi's tredje, Bonomi's første). I 2004 i Athen skulle det på ny bli en medaljekamp mellom Rossi og nordmenn denne gang mot Eirik Verås Larsen og Nils Olav Fjeldheim, denne gangen tok Rossi og padlepartner Bonomi sølvet foran de nevnte nordmenn med Markus Oscarsson og Henrik Nilsson på toppen av seierspallen. Rossi deltok i Sommer-OL 2008 på K-4 1000m sammen med Franco Benedini, Alberto Ricchetti og Luca Piemonte hvor de til slutt tok en fjerdeplass.