童子试中秀才。光绪十一年（1885年）张一麐中举人。1895年甲午战争中国战败，各地纷纷成立学会，张一麐等在苏州设苏学会。光绪二十九年（1903），张一麐中经济特科，分至直隶总督兼北洋大臣袁世凯处任职。宣统即位后，因袁世凯被逐回原籍，张一麐遂解职归乡。中华民国初年，张一麐再度充任袁世凯幕僚，担任总统府秘书。袁世凯改中华民国国务院为政事堂之后，张一麐任政事堂下设六局之一的机要局局长。1915年，张一麐任第一次徐世昌内阁的教育总长。1916年，袁世凯称帝，张一麐因不满而辞职。1921年，张一麐倡议召开了和平