Initiativtagerne til Vanilla Fudge var organisten Mark Stein og bassisten Tim Bogert. De spilte i et lokalt band som het Rick Martin & The Showmen, men ble så imponert av sounden til The Rascals (svingende og brusende orgel) at de bestemte seg for å danne sitt eget band. Sammen med trommeslageren Joey Brennan i The Showmen og gitaristen Vince Martell, dannet de The Pigeons men endret i 1966 navnet til Vanilla Fudge etter utskifting av Brennan med Carmine Appice. Et opptak av The Pigeons ble i 1973 utgitt i Tyskland under tittelen . Gruppen ble så «oppdaget og adoptert» av det kriminelle Luchesefamilie medlemmet, Phillip Basile, som administrerte flere berømte L.I. klubber som Action House, Speaks, Channel 80, Industri (tre av dem var de samme klubbene) på Austin Boulevard, i Island Park, New York.