En el 2003, The Soviettes lanzó su primer LP titulado simplemente "LP" en Adeline Records, en Oakland, California.