后，他应李鸿章之邀到北京，襄助李鸿章赴日本马关议和。翌年，马建忠与上海《时务报》主笔梁启超相识，并出版了《适可斋记言记行》。此后，马建忠一直埋头整理《文通》一书，于1898年（光绪廿四年）出版。该书以西方语文的语法为本，对照从古书中精选的例句，研究古汉语的语法规律，创建了一套汉语的语法体系，是奠定汉语语法学基础的开山之作，对后世汉语语法研究产生了巨大影响。1931年，语言学家杨树达着成《马氏文通刊误》由商务印书馆印行，将《文通》补完增订。1900年（光绪廿六年），马建忠再度应李鸿章之召，任上海行辕襄