Han har utdanning fra Manhattan School of Music i New York. På slutten av 1950-tallet var Calello medlem av Frankie Vallis rockegruppe , men han slutta i den like før den skifta navn til The Four Seasons. Han beholdt imidlertid tilknytninga til gruppa som arrangør. I 1965 blei han midlertidig med som bassist/korist, da Nick Massi forlot gruppa. Ei tid etter fikk Joe Long denne plassen fast.