Fra 1987 til 1990 spilte Sammer for Dynamo Dresden, der han var med på å vinne to Oberligamesterskap. Sammer scoret Øst-Tysklands siste landslagsmål før sammenslåingen av de to tyske forbundene. Han var en av de første østtyskerne som gikk til en stor vesttysk klubb etter gjenforeningen i 1990 da han gikk til VfB Stuttgart hvor han var med på å vinne Bundesliga i 1992. Senere gikk han til Inter Milan hvor han spilte en sesong, før han returnerte til Tyskland for å spille for Borussia Dortmund.