Адольф Абель, после окончания пехотного военного училища, поступает фанен-юнкером в июне 1934 года в состав 5-го батальона 2-го пехотного полка рейхсвера. В том же году становится ефрейтором. В 1936 году выслуживает офицерское звание лейтенанта. В 1938 году проходит курс обучения по программе противотанковой обороны. К началу Второй мировой войны он в звании обер-лейтенанта находится в составе 23-го пехотного полка 161-й пехотной дивизии. Участник Польской кампании (1939), битвы за Францию (1940), операции «Барбаросса» (1941), Минско-Белостокского сражения (1941), Смоленской битвы (1941), второй битвы за Харьков (1942), Ясско-Кишинёвской оборонительной операции (1944). Был многократно ранен. В декабре 1942 года был произведён в капитанское звание (в составе 301-го гренадерского полка), в сентябре 1943 года — в майоры и командующие 364-го гренадерского пехотного полка.