In den 1970er Jahren begann Zarrillo mit Auftritten mit Gesang und Gitarre in den Musikkellern der römischen Vorstädte. 1972 gründete er die Band "Semiramis". Danach schrieb er auch viel für andere Interpreten, darunter Ornella Vanoni und Renato Zero. 1982 veröffentlichte er sein erstes Soloalbum "Sarabanda", das weitestgehend unbeachtet blieb. Bekannt wurde er erst 1987 durch den ersten Platz in der Newcomer-Kategorie des Sanremo-Festivals mit dem Lied "La notte dei pensieri"; zuvor hatte er sich schon 1981 und 1982 relativ erfolglos beim Wettbewerb versucht. Nach einem 13. Platz in der Hauptkategorie des Festivals 1988 und einer Auszeit kehrte er 1992 nach Sanremo zurück, wo er "Strade di Roma" präsentierte. Es folgte das Album "Adesso".