I. e. 500 körül a mai Dél-Németországban kelták, Észak-Németországban germánok éltek. Az ezt követő évszázadokban a germánok délebbre vándoroltak, így időszámításunk kezdetekor nagyjából a Duna volt a határ közöttük. A szomszédság eredményeképpen a germán nyelvbe számos kelta jövevényszó került és gyakoriak a kelta eredetű hely- és folyónevek is. Miután Caesar meghódította Galliát, utódai több hadjáratot indítottak a Rajnától keletre. Ezeknek a próbálkozásoknak a teutoburgi katasztrófa vetett véget i. sz. 9-ben, ahol a germánok megsemmisítettek három római légiót. Kb. i. e. 50-től az i. sz. 5. évszázadig a Rajnától nyugatra és a Dunától délre eső régiók a Római Birodalomhoz tartoztak (i. sz. 80-tól 260-ig a Hessen és Baden-Württemberg egy része is). Ezek a területek Germania superior, Germania inferior és Raetia provinciák között oszoltak meg. Németország legrégebbi városait,Triert, Kölnt, Bonnt, Wormsot és Augsburgot ekkor alapították. A rómaiak számos újítást vezettek be az építészetben és a kézművességben egyaránt. A birodalom minden részéből (különösen Itáliából) érkeztek telepesek. A germánok első részletes ismertetését is a rómaiaknak köszönhetjük (Tacitus Germaniája i. sz. 98-ból).