Абу Убайда принял участие во всех битвах между мусульманами и язычниками Мекки. В битве при Бадре он сразился со своим отцом, который воевал против мусульман на стороне язычников и убил его. Согласно преданию, 22-й аят суры Аль-Муджадиля ниспослан в связи со случаем Абу Убайды ибн аль-Джарраха и других сподвижников пророка Мухаммеда: «Среди тех, кто верует в Аллаха и в Последний день, ты не найдёшь людей, которые любили бы тех, кто враждует с Аллахом и Его Посланником, даже если это будут их отцы, сыновья, братья или родственники. Аллах начертал в их сердцах веру и укрепил их духом от Него. Он введёт их в Райские сады, в которых текут реки, и они пребудут там вечно. Аллах доволен ими, и они довольны Им. Они являются партией Аллаха. Воистину, партия Аллаха — это преуспевшие».