但他在生前并没有提出净土宗的名称，未建立净土宗理论与宗派，与二祖善导之间也没有师承关系。据说，慧远曾于402年7月与刘遗民等僧俗一百二十三人，于山北般若台阿弥陀佛像前共誓往生西方，由刘遗民作誓文。后世称为「结社」，成为净土宗在中国的开端。相传，慧远在庐山东林寺同刘遗民、雷次宗等共一百二十三人在阿弥陀佛像前发愿，共期西方，希望由坐禅，修行念佛三昧，而得解脱。但是在隋唐的佛教文献中，并没有「慧远结莲社」的记载。慧远结莲社此事最早的记载，出自宋朝陈舜俞（?-1074年）《庐山记》中所引《十八高贤传》。后南