Podobnie jak w przypadku innych postaci z wczesnego okresu islamu właściwie wszystkie nasze wiadomości na temat Chalida pochodzą z bardzo późno spisanej arabskiej tradycji, której z reguły nie można w żaden sposób zweryfikować. Zgodnie z tą tradycją Chalid ibn al-Walid należał do rodu Machzum, obok Umajjadów i Haszymitów jednego z trzech najznaczniejszych rodów ówczesnej Mekki. Jego ojcem był al-Walid ibn al-Mughira, brat przywódcy Machzum, Hiszama ibn al-Mughiry. Machzum byli głównymi organizatorami mekkańskiej opozycji przeciwko Mahometowi, a Al-Walid miał być jednym z "szyderców" ("al-mustahzi'un"), przeciwko którym były wymierzone wersety "Koranu". Chalid walczył przeciwko muzułmanom w bitwie pod Uhud i to jego manewrowi na tyły przeciwnika mekkańczycy zawdzięczali zwycięstwo. W roku 627 lub 629 nawrócił się jednak na islam i brał udział w bitwie pod Mutą, gdzie po śmierci wyznaczonych przez Mahometa dowódców wyprowadził z pola bitwy resztę rozbitych oddziałów. To po tej bitwie miał otrzymać od Proroka tytuł "Miecz Boga" ("Sajf Allah"), często przywoływany w późniejszej tradycji. Brał także udział w zajęciu Mekki i po tym wydarzeniu Mahomet powierzył mu misję zniszczenia świątyni Al-Uzzy w Batn Nachli, a następnie wysłał przeciwko szczepowi Banu Dżazima. Chalid miał ich przekonać do przyjęcia islamu, po czym wykorzystując zdobyte zaufanie zdradziecko wymordować, co spotkało się z potępieniem Proroka, który nakazał Alemu zapłacenie ceny krwi. W roku 630 Mahomet wysłał go do Dumat al-Dżandal, gdzie Chalid pojmał miejscowego władcę al-Ukajdira i odesłał go do Medyny. W roku 631 Chalid został wysłany z misją wezwania do nawrócenia na islam Banu al-Haris z Jemenu.