アブー・ウバイダはクライシュ族のバヌー・アル＝ハーリス・ブン・フィフル氏族出身で、581年にメッカにおいて兄のアブドゥッラー・ブン・アル＝ジャッラーフの家で生まれた。また、アブー・ウバイダはメッカ布教時代からムハンマドの教友（サハーバ saḥāba）だったことで知られており、ハディースなどの伝承によると611年にアブー・バクルやウスマーンらが改宗した翌日にイスラームに改宗したと伝えられている。危機的な状況にあってもそれに耐えうる豪胆さと滅私の志の強さを兼ね備えた人物であったと言われており、そのため、預言者ムハンマドから「アミーン」（أمين amīn 信頼をおける者）と呼ばれた。624年のバドルの戦いの時41歳であったといい、翌625年、ウフドの戦いでの奮戦以降各地への遠征等へも従軍している。ヤマン人（イエメン）への改宗と指導のため、ムハンマドから全権を委任されて派遣された。