Da konflikten mellom romerne og germanerne tiltok, så romerne seg nødt til å stasjonere tropper langs Rhinen. De hadde to armégrupper (exercitus) her, en underordnet (nedre), og en overordnet (øvre), og dette er første gang man kan skille mellom nedre og øvre Germania. Opprinnelig betydde dette antageligvis bare oppstrøms og nedstrøms.