青铜时代晚期,日耳曼人居住在现今瑞典的南部、丹麦半岛以及德国北部介于埃姆河、奥得河与哈次山脉之间。随着铁器的应用、经济的发展和自然灾害的影响,从公元前6世纪左右,日耳曼各部落开始南迁。汪达尔人、格庇德人及哥德人自瑞典南部外迁,占据波罗的海南岸大体上相当于奥得河与维斯杜拉河之间的地区。早期的迁徙行动,也有向南和向西发展的。其结果是把居住现今德国西部大部地方的凯尔特诸民族挤走了。公元前3世纪,他们沿着易北河南下到达波希米亚北部地区,又沿着萨勒河进入图林根地区。公元前2世纪末,定居在日德兰半岛的日耳曼部落侵入地中海文化区域,直接同罗马人对峙。公元前1世纪中期,大批日耳曼人从腹地出发来到莱茵河边,同罗马帝国不断发生军事冲突。经过漫长的斗争,日耳曼部落的汪达尔人、勃艮第人和哥特人占领了维斯杜拉河流域。公元前1世纪中叶,又将凯尔特人逐出,最终定居于莱茵河以东、多瑙河以北和北海之间的广大地区。公元前1世纪末,罗马奴隶制共和国被帝国所代替后,遂将其北部直接为邻的日耳曼部落作为征服对象。西元前9年,罗马人自莱茵河拓展其疆域东至易北河,凯撒时代,日耳曼人已在莱茵河以西定居下来,向南则已达到多瑙河一带了。他们与罗马人之间最早的一次大规模战斗发生在西元前2世纪之末,当时辛布里人与条顿人联合入侵高卢南部和意大利北部,但在前102及前101两年中,全部为马略(,157~86?BC)所歼灭。罗马帝国的征服目标是,占领直到易北河的广大日耳曼部落居住区,将其划入帝国版图,组成罗马行省——大日耳曼尼亚。罗马帝国集中力量把莱茵河区建成军事基地。公元前12年,罗马帝国在莱茵一线集中36个军团,总兵力达30万人,并在这一年开始了对日耳曼部落的征服战争。战争初期,罗马军队遇到了日耳曼各部落的顽强抵抗,损失惨重。公元8年,一支深入日耳曼腹地的罗马军队受到了日耳曼诸部落的沉重打击。罗马人“艰难地去征服前进道路上的对手,而每一次胜利,他们都得付出血的代价。”然而日耳曼各部落的抵抗都是各自为战,没有联合行动。这使罗马人可以集中优势兵力依次进攻各部落。经过10余年的战争,日耳曼部落大部分被征服。由于无力派出足够的军队去占领整个日耳曼人居住区,并对其实行有效的统治,罗马帝国只得迫使被征服的日耳曼部落向帝国称臣纳贡,建立强制性的条约依附关系。经过多年的斗争,日耳曼人逐渐意识到,要战胜装备精良、经验丰富的罗马军队,必须改变各个部落各自为战的涣散状态。于是部落联盟开始出现了。公元9年秋,日耳曼各部落的战士,在条顿堡森林同3万罗马军队遭遇,日耳曼人取得了重大胜利,罗马3个军团几乎被全歼。这次胜利后许多日耳曼部落重新获得独立。这就决定了罗马帝国的势力范围的边界不是在易北河,而是仍然在莱茵河流域一线。公元11年,罗马帝国再次越过莱茵河,对日耳曼人发动新的征服战争,并取得了局部的胜利。公元17年,罗马军队占领施特拉斯堡、温迪施和美因茨。但罗马人已无力继续深入日耳曼人腹地。在公元1世纪中期的几十年里,罗马帝国逐渐把边界推进到莱茵河东岸,从而加固了罗马莱茵河——多瑙河边界体系。公元1世纪下半期后,罗马人开始在莱茵河东岸地区建立界墙。这意味着罗马帝国最终结束了征服战争。公元1世纪初,罗马帝国正式把莱茵河与多瑙河上游划入帝国版图,建立了两个行省:上日耳曼行省和下日耳曼行省。前者首府是美因茨,后者是科隆。两省总督由当地罗马驻军的副将担任。2世纪在日耳曼地区发生了两个重要的变化:首先过去分裂的日耳曼部落联合为大部落,其次日耳曼人越来越多地对罗马边界进行袭击。这些日耳曼民族大迁徙的原因今天还无法断证,可能的一个原因是随着日耳曼部落经济文化的发展、氏族公社制度的解体,部落上层渴望向外扩张掠夺新的土地和财富,部落下层民众也因人口的增长不得不向外迁徙,寻求新的能够谋生的土地。罗马帝国正日益衰弱,无力抵御外敌的入侵。或者有可能是饥荒造成的。总之从公元4世纪起,散居罗马帝国境外的,以日耳曼人为主的诸部落开始大规模向罗马帝国境内迁徙。公元376年,日耳曼民族的西哥特人部落受匈奴人袭击,他们在获得罗马皇帝同意后,渡过多瑙河进入巴尔干半岛的色雷斯。第二年,西哥特人不堪罗马人的压迫又起义反抗。395年罗马帝国分裂,西哥特人又与当地奴隶、隶农一起打击西罗马帝国。418年,在高卢西南部建立西哥特王国。继西哥特人涌入罗马帝国的日耳曼部落还有:勃艮第人、法兰克人、东哥特人、盎格鲁人和撒克逊人等。日耳曼民族大迁徙约持续了2个世纪,他们与当地的奴隶、隶农起义一起,摧垮了罗马帝国,在罗马领土上建立了许多日耳曼人王国,其中,法兰克王国逐渐成为日耳曼诸王国中力量最强的国家。