Silver komponierte mehr als 75 Songs, darunter "Icky-Wicky-Woo", "Gold Digger Blues" und "What Do We Get From Boston? Beans, Beans, Beans". Sein größter Erfolg war "Yes! We Have No Bananas", ein Schlager, den er 1922 mit Irving Cohn für die Broadway-Revue "Make it Snappy" schrieb, wo er von Eddie Cantor gesungen wurde. Das Lied wurde Schlager des Jahres 1923 und wurde in zahlreichen Kino- und Fernsehfilmen zitiert. Der Text der deutschsprachigen Version („Ausgerechnet Bananen!“) stammt von Fritz Löhner. Das Geld, das Silver mit dem Song verdiente, verlor er beim Börsencrash 1929. Silver leitete das "Frank Silver's Dance Orchestra" und arbeitete auch als Vaudevilledarsteller.