Smith nació en Virginia Occidental y durante su infancia se mudó con su familia a Detroit, Míchigan, donde conoció a Wayne Kramer y a Rob Tyner, con quienes formó MC5, grupo que es considerado pionero del punk.