留学日本。毕业于日本早稻田大学、 东京帝国大学，曾师从章太炎学习文字音韵学。曾任教北京大学国文系，曾任北京大学国文系主任长达十四年，其间被戏称作“好好先生”。有弟国学大师马衡和前香港大学中文系主任马鉴。儿子马巽（字巽伯），是知名学者，曾任宋庆龄秘书。女儿马珏是北大校花，两度登上《北洋画报》的封面，另一个女儿马琰也是北大校花。
生平.1905年，获选浙江省公费留学日本。曾师从章太炎学习文字学、音韵学。1911年，回国，任浙江省教育司视学。1913年至1937年，任教于北京大学国文系，