Nato da una famiglia di allevatori di Ussita, è stato una figura singolare di poeta-pastore, soprannome con cui è ricordato. Dopo un primo entusiasmo verso la figura di Pio IX per il quale compose versi quale "Oh Italia, Italia, dolce suol natìo", e dopo la successiva delusione da tale figura, Rosi aderì infine agli ideali risorgimentali. Inizialmente aderente alla Carboneria dal 1821, fu poi iscritto alla Giovane Italia di Giuseppe Mazzini nel 1831; partecipò attivamente ai moti del 1848, del 1859 e del 1870. Venne nominato capitano nello Stato Maggiore da Giuseppe Garibaldi durante seconda Repubblica Romana, come testimoniato da due lettere di Garibaldi (29 febbraio e 29 marzo 1849), del quale godeva ormai dell'amicizia. Dopo la caduta della Repubblica, venne catturato dalle autorità e rimase tre anni in galera. Dopo altri arresti in seguito alla ripresa dell'attività sovversiva e di propaganda, nel 1867 si ricongiunse allo stesso Garibaldi: dopo la presa di Porta Pia del 1870 si stabilì infine a Roma, dove rimase sino alla morte.