宛平（今北京市）人。祖辈六世仕辽，相继为宰相，辽中京留守刘霄子。辽进士乙科出身。保大二年（1122年），天祚帝败逃夹山（今内蒙古自治区唿和浩特西北），耶律淳在南京（今北京市）自立为帝，任刘彦宗为燕京留守判官，萧德妃摄政期间，刘彦宗任签书枢密院事，与左企弓等降金。降金后颇受器遇，辅佐完颜宗翰治理汉地，授同中书门下平章事，知枢密院事，加侍中。凡州县之事皆委其裁决。金太宗天会二年（1124年）完颜宗翰大举攻北宋，献十策，兼领汉军都统。曾参与谋议攻开封府（今河南省开封市），劝宗翰等入城后收宋朝图籍、宫中器具，金