85年（清光绪十一年），马吉芬来华，获李鸿章邀请到北洋水师任职，作为天津水师学堂的外籍教习（教官）任教近9年。在此期间，他为北洋水师的组建提供了很多帮助，还曾带队前往英国协助监督4艘清廷订制的铁甲舰的建造。马吉芬非常热爱海军事业，一直希望有一天能回到美国海军任职，也希望在中国海军的经历能为他重返美国海军提供帮助。1894年，中日甲午战争爆发，马吉芬作为镇远舰帮办（相当于副舰长）加入北洋海军参战。在1894年9月17日的黄海海战中，马吉芬英勇的参加了战斗，头部等多处负伤。战后，他还获得了清廷颁发的嘉奖。