Jay creció en Woodland Hills y asistió al instituto El Camino High School, donde conocería a Greg Graffin y Brett Gurewitz, quienes preguntaron a Jay si quería entrar en una banda nueva que estaban creando, Bad Religion.