С самого начала войн Халифата с Персией и Византией, Абу Убайда отправился на фронт. Возглавлял арабские армии при покорении Сирии и Палестины в 634—638 годах. В битве при Ярмуке он был назначен командующим войсками центра. После этой победы были захвачены Фахль, Басан и Дамаск. Под командованием Абу Убайды также были завоёваны Иерусалим, Хомс и другие города Леванта.