苏省苏州府元和县。12岁时，张一麐应童子试中秀才。光绪十一年（1885年）张一麐中举人。1895年甲午战争中国战败，各地纷纷成立学会，张一麐等在苏州设苏学会。光绪二十九年（1903），张一麐中经济特科，分至直隶总督兼北洋大臣袁世凯处任职。宣统即位后，因袁世凯被逐回原籍，张一麐遂解职归乡。中华民国初年，张一麐再度充任袁世凯幕僚，担任总统府秘书。袁世凯改中华民国国务院为政事堂之后，张一麐任政事堂下设六局之一的机要局局长。1915年，张一麐任第一次徐世昌内阁的教育总长。1916年，袁世凯称帝，张一麐因不满而辞职。