Podobnie jak inni towarzysze Proroka, Abu Ubajda brał udział w większości wydarzeń związanych z jego misją. Brał udział w emigracji („hidżra”) do Etiopii, a następnie do Medyny. Według niektórych źródeł w trakcie bitwy pod Badrem miał zabić własnego ojca, który walczył po stronie Kurajszytów przeciwko Mahometowi. Jednakże inne tradycje naciskają na fakt, iż ojciec Abu Ubajdy zmarł na długo przed objawieniem się Proroka. Abu Ubajda wyróżnił się także w bitwie pod Uhudem oraz jako dowódca kilku przeprowadzonych w imieniu Mahometa ekspedycji o militarnym lub bardziej dyplomatycznym charakterze. Najważniejszym z wydarzeń w jakich brał udział była jednak narada po śmierci Mahometa, w trakcie której triumwirat mekkańskich muhadżirów w osobach Abu Bakra, Umara i Abu Ubajdy przekonał medyńskich ansarów by nie wybierali osobnego przywódcy ze swojego grona. W trakcie tej narady Abu Bakr miał zaproponować jako kalifa (czyli następcę Mahometa) właśnie Abu Ubajdę. Ostatecznie kalifem został jednak Abu Bakr. Podczas jego panowania Abu Ubajda był odpowiedzialny za skarb medyńskiego rządu. Gdy w roku 634 kalifem został Umar wysłał on Abu Ubajdę do Syrii i wkrótce mianował głównodowodzącym tamtejszych wojsk. Nie jest znana dokładna data tego mianowania - niektórzy historycy umieszczają je po zdobyciu Damaszku, a inni po bitwie nad rzeką Jarmuk. Jako dowódca sił arabskich w regionie Abu Ubajda pełnił też rolę namiestnika Syrii. Po pokonaniu Bizantyńczyków nad Jarmukiem Abu Ubajda dokończył podbój północnej Syrii, zdobywając Hims, Aleppo i Antiochię.