Sheringham begynte karrieren i London-klubben Millwall FC, og hadde også et låneopphold i den svenske klubben Djurgårdens IF Fotboll i 1985. I løpet av sine åtte sesonger i Millwall scoret han over 100 mål, og var med på å føre klubben fra 3. divisjon til toppdivisjonen (nåværende Premier League).