El guitarrista Eddie Reyes, que había tocado en The Movielife, Mind Over Matter e Inside, y el guitarrista Jesse Lacey de Rookie Lot fundaron Taking Back Sunday en Amityville, Nueva York en noviembre de 1999.