Si laureò in medicina all'università di Pisa nel 1822. Rimase a Pisa per un anno come assistente di clinica chirurgica, poi si trasferì a Pavia, Milano e Bologna. Dietro consiglio di Giacomo Tommasini, che conobbe all'università di Bologna, nel 1825 si trasferì a Parma. In quell'anno si era diffusa tra i soldati del ducato di Parma una grave epidemia di oftalmite che portò a numerosi decessi. Il Rossi la riconobbe come una oftalmite purulenta di origine egiziana, che aveva già osservato a Pisa, e curò con successo 26 ammalati. Il chirurgo Andrea Vaccà Berlinghieri, consultato dal governo ducale, confermò la diagnosi del Rossi, precisando che la malattia era stata introdotta in Europa dalle truppe francesi reduci dalla Campagna d'Egitto.