Effenberg ble født i Hamburg, men begynte sin proffkarriere i Borussia Mönchengladbach i 1986. Etter fire sesonger dro han til Bayern München, og to år etter til italienske Fiorentina.