下日耳曼尼亚原为贝尔盖人所佔领，上日耳曼尼亚为高卢部落赫尔维蒂人、塞夸尼人（Sequani）、吕契人（Leuci）以及特雷维里人等佔领，另外在莱茵河中游北岸，阿里奥维斯图（Ariovistus）领导的日耳曼部队残部企图攻取维森奇奥（Vesontio，今贝桑松）但公元前58年被凯萨击败。此后罗马人并未放弃这个地区。卡西乌斯·狄奥指出，在他统治的最初的五年期间（前28年－前23年），屋大维以这些省份有叛乱的危险，而由他独自统率军队以恢复治安为理由，取得了主要元老院行省（Senatorial province