Després de la caiguda de l'imperi Romà d'Occident, els francs van crear un imperi sota la dinastia merovíngia i hi van subjugar les altres tribus germàniques. Suàbia va esdevenir un ducat depenent de l'imperi Franc el 496, després de la Batalla de Tolbiac. El rei Clotar I va governar la major part del que en l'actualitat és Alemanya, i va enviar expedicions cap a la Saxònia, mentre que el sud-est de l'actual Alemanya encara es trobava sota la influència dels ostrogots. El 531 els saxons i els francs van destruir el Regne de Turíngia. Els saxons van habitar l'àrea al sud del riu Unstrut. Durant la partició de l'Imperi Franc, llurs territoris germànics eren part d'Austràsia. El 718, el majordom de palau franc Carles Martell va començar una nova guerra contra Saxònia el 743, ja que els saxons havien donat suport al duc Odiló de Baviera. El 751 Pipí III, majordom de palau, sota el rei merovingi, va assumir el títol de rei ell mateix i va ser ungit per l'Església. Els reis francs eren, a partir de llavors, els protectors del papa. Carlemany va començar una sèrie de campanyes militars llargues en contra dels rivals pagans, els saxons i els avars. Els saxons i els avars van ser derrotats i forçats a convertir-se al final de les Guerres saxones (772-804) i llurs terres van ser annexades a l'imperi Carolingi.