Hun begynte også å fremføre sin egen musikk, opprinnelig med gitarist Lenny Kaye. I 1974 ble pianisten Richard Sohl med og singelen «Piss Factory / Hey Joe» ble spilt inn. Senere ble Ivan Kral (gitar) og Jay Dee Daugherty (trommer) også med, og i 1975 ble debutalbumet gitt ut, produsert av det tidligere Velvet Underground-medlemmet John Cale. Albumet, som hadde singelen «Gloria» (Van Morrison, Patti Smith), er kanskje Smiths mest innflytelsesrike og blir sett på som en viktig kilde til inspirasjon i punk, men også for senere rockemusikk.