素为好友，两人在就读高中时就组成「汤姆与杰利合唱团」（英语：Tom & Jerry）。1957年，该合唱团的单曲《"Hey, Schoolgirl"》打入了美国流行音乐排行榜。高中毕业之后，赛门考进纽约市立大学皇后学院英文系，而葛芬柯当时就读于不远的哥伦比亚大学，两人仍然时有合作。1964年，两人与哥伦比亚唱片签署合约，以他们的真实姓氏「赛门与葛芬柯」正式出道。对于乐团的名字，保罗·赛门曾自我解嘲地说：「此为犹太人联名打入美国流行乐坛的第一次。」
着名歌曲.乐团的名曲如《寂静之声》