Membro da tribo cáicida da Jazira (Mesopotâmia Superior), Omar reclamava pertencer à nobreza tradicional árabe pelo lado do seu avô materno, que supostamente era chefe do clã Banu Adi, da tribo dos Coraixitas. Contudo, a família não consta das fontes históricas antes da emergência de Omar em 696, quando serviu no Iraque sob . Participou nas campanhas militares contra o Império Bizantino na década de 710, sob o comando de Maslama ibne Abdal Malique e comandou a marinha muçulmana no grande cerco à capital bizantina, Constantinopla, em 717–718.