Berikutan Hijrah Nabi Muhammad, masyarakat orang Islam Madinah dan Quraisy Jahiliah Makkah bertempur buat beberapa kali. Khalid tidak mengambil bahagian dalam Perang Badar—pertempuran pertama antara Muslim Madinah dengan puak Quraisy Makkah—tetapi saudara lelakinya, Walid bin Walid tertangkap dan menjadi tawanan orang Islam. Khalid bersama-sama abangnya Hasham bin Walid pergi ke Madinah untuk membayar wang tebusan untuk Walid, tetapi dalam perjalanan pulang ke Makkah, Walid meloloskan dirinya daripada dua saudaranya dan pulang ke Nabi Muhammad di Madinah untuk memeluk Islam. Kepimpinan Khalid memainkan peranan penting dalam mengubah perjalanan pertempuran semasa Perang Uhud (625 M) dan hampir-hampir memastikan kemenangan Quraisy dalam pertempuran itu. Pada tahun 627 M beliau mengambil bahagian dalam Perang Ahzab (juga dikenali sebagai Perang Khandaq) menentang Muslim Madinah. Perang Ahzab merupakan kali terakhir Khalid menentang Islam.