至罗马帝国统治地区后，罗马帝国势力自395年起衰弱，日耳曼部落因而得以进一步向西南方迁移，同时，今日德国境内出现较大的部落取代或吸收先前的小型部落。日耳曼地区大片土地（即墨洛温王朝时所称的奥斯特拉西亚、纽斯特利亚和阿基坦一带）为法兰克人所佔领，建立起法兰克王国，并向东征服萨克森和巴伐利亚；今德国东部地区则由西斯拉夫民族（包括索布人、和）定居。
东法兰克王国与神圣罗马帝国.查理大帝于800年圣诞节于罗马接受教宗利奥三世加冕，并建立卡洛林帝国，后于843年根据凡尔登条约分裂，分裂后出现