Seger startet sin musikkarrière i 1961 i Detroit som medlem av The Decibels, hvor han møtte på sin framtidige manager og produsent, Punch Andrews. Seger flyttet tilbake igjen til Ann Arbor da han spilte med The Town Cryers og senere Doug Brown and the Omens. Sammen med sistnevnte ga de ut sin første singel i 1965 på det lokale plateselskapet Hideout Records. Seger sang på «Doug Brown and the Omens», en parodi på sangen «Ballad of the Green Berets», med tittelen «Ballad of the Yellow Berets», som var et hån mot gruppen Draft Dodgers. Rett etter denne utgivelsen, truet Barry Sadler og hans plateselskap med søksmål og utgivelsen ble trukket fra markedet. I 1966 forlot Seger Doug Brown and the Omens, men beholdt Doug Brown som produsent. Med fikk Seger sin første store hit med låten «East Side Story», som solgte mer enn 1 million eksemplarer, nesten alle i Detroit. Suksessen førte til en avtale med selskapet Cameo-Parkway Records. En annen av Segers største hits i Detroit-området var singelen «Heavy Music» i 1967. Denne solgte langt flere enn den første hiten, og hadde potensial til å slå igjennom i hele USA. Men Cameo-Parkway skrinla «Heavy Music». Låten ble fremført på konserter i mange år framover. I løpet av disse tidlige årene i Detroit, ble Seger venn med Glenn Frey som senere ble medlem av gruppen The Eagles.