给事中，稽查内仓。光绪十七年（1891年）奉钦派督理京城五城街道，转掌江南道监察御史。光绪十九年（1893年），刘心源调补京畿道监察御史，京察一等记名，以道府用。光绪二十年（1894年），简放甲午科河南乡试副考官。二十一年（1895年），简放四川省夔州府知府，次年就任。任内围剿土匪、赈济灾荒，因剿匪有功，曾获四川总督鹿传霖保荐，但“以不贿，为部议所格”，遂未能升迁。光绪二十三年（1897年）调补成都府知府，任内再次因剿匪有功，得到四川总督奎俊保举，署成绵龙茂道道员。光绪二十六年（1900年），刘心源