В древности здесь обитали кельты, вытесненные в I веке до н. э. на правый берег Рейна германским племенем свевов. Хотя ещё будущий римский император (а на тот момент претор) Тиберий в 15 году до н. э. учредил к югу от верховьев Дуная провинцию Рецию, тем не менее лишь около 100 года римляне здесь прочно утвердились и основали между реками Рейном, Ланом и Дунаем так называемые "Agri decumates". В III веке явившиеся сюда с северо-востока алеманны овладели страной. Алеманны и свевы скоро слились в один народ, хотя название алеманнов больше сохранилось за населением, живущим к западу от Шварцвальда, а свевов — к востоку от гор. После поражений при Цюльпихе (Толбиаке) в 496 году и при Страсбурге в 506 году алеманны подчинились франкским королям, но сохранили самостоятельных герцогов.