Beliau sempat belajar dengan beberapa orang sahabat Nabi Muhammad s.a.w. termasuklah Anas bin Malik, Abdullah bin Abi Aufa, Sahal bin Abi Saad, Abdullah bin Al-Harith dan Abdullah bin Anas. Kecintaan beliau terhadap ilmu telah membawa beliau untuk menuntut ilmu dengan 200 orang ulama termasuk para sahabat dan tabiin. Ilmu yang dipelajari beliau termasuklah ilmu tauhid, ilmu al-Quran, dan ilmu hadis selain mahir dalam bidang sastera. Beliau pernah berguru dengan Hamad bin Sulaiman selama 20 tahun sebelum mengambil alih tempat gurunya itu setelah gurunya itu meninggal dunia.