Существует несколько теорий касательно основания данного легиона. Наиболее часто встречается версия, что легион был сформирован Гаем Юлием Цезарем специально для участия в гражданской войне против Гнея Помпея Великого в 48 году до н. э. Согласно другой гипотезе, легион был сформирован консулом Гаем Вибием Пансой Цетронианом в 43 году до н. э. Во всяком случае, как считает немецкий историк Теодор Моммзен, I Германский легион уже существовал ко времени реорганизации римской армии императором Октавианом Августом. Кроме того, по мнению Моммзена, после поражения в Тевтобургском лесу Август расформировал легион, но затем практически сразу же после этого воссоздал. Предположительно, подразделение было изначально сформировано из жителей Рима.