Cinco años más tarde de fundar Lagwagon, Cape, en 1995 fundó Me First and the Gimme Gimmes, una banda californiana de punk rock y punk pop que se caracteriza por el repertorio de sus canciones, todas ellas versiones de los éxitos musicales de los años 60 y 70.