Mặc dù bị Umar nghi kỵ vì nắm binh quyền quá lớn và bị hạ chức, nhưng ông vẫn tiếp tục thể hiện tài năng chỉ huy của mình qua việc giàn trận chống lại quân đội Đông La Mã trong giai đoạn đầu của cuộc chiến giữa người Ả Rập và Đông La Mã. Dưới sự chỉ huy của ông, thành Damas bị hạ năm 634 và người Ả Rập đã dành một chiến thắng chủ chột tại trận Yarmouk trước người La Mã năm 636, dẫn đến cuộc chinh phạt xứ Bilad al-Sham (Levant). Năm 638, khi đang đứng trên đỉnh cao của đời binh nghiệp, ông bị Umar tước hết binh quyền.