Siendo un niño de diez años Anthony ya cantaba, y en 1936 actuó ante el alcalde de Nueva York Fiorello La Guardia en la inauguración del Triborough Bridge, una red de tres famosos puentes que unen los principales distritos de la urbe.