生于古印度摩揭陀国的婆罗门种姓家庭，离首都王舍城大约有二三里路程。父亲提舍是婆罗门教中着名论师。祂从小才智过人，善于辩论，非常出名。二十岁时拜六师删惹夷为师，然对删惹夷的学问并不满足。后因听闻马胜比丘 （Assaji）说因缘所生法的偈颂，决定和好友目犍连一同加入释迦牟尼佛僧团。他与目犍连的弟子共两百名也随之加入僧团，成为僧团中的骨干，被称为释迦牟尼佛的常随众。因为舍利弗持戒精严、于法多闻、敏捷智慧、善讲佛法，释迦佛常让舍利弗替祂说法。当佛的侍者有二十年之久，佛称赞祂是「众生生母」。僧团碰到些棘手问题