Jay formó en 1979 Bad Religion junto a Jay Bentley, Greg Graffin y Brett Gurewitz, compañeros suyos del instituto El Camino Real High School, en Woodland Hills, Los Ángeles, California.