Rossi var sønn av en skomaker, og fikk sin opplæring av ham. I 1951 åpnet han sin første skoforretning. Han lagde også sandaler og solgte dem til badegjester i Rimini og i butikker i Bologna. I 1968 produserte han de første skoene med sitt eget varemerke.