Al igual que Los Beatles, Steven se vio influenciado musicalmente por The Kinks, Bob Dylan, Nina Simone, Lead Belly, Muddy Waters, Biff Rose, Leo Kottke y Paul Simon.