Niemi startet karrieren sin i HJK Helsinki i 1991. Han har også vært i FC København, , Rangers FC, Charlton Athletic, Southampton FC, Fulham FC og .