参议随唐绍仪前往议和。中华民国成立后，张国淦任北洋政府铨叙局局长、国务院秘书长。此后历任总统府秘书长、内务部次长等要职，和同郷、副总统黎元洪交情深厚，与段祺瑞、徐世昌也是好友，袁世凯即皇帝即位前后，段祺瑞与之对立，张国淦曾从中调停。袁世凯死后，黎元洪任大总统，段祺瑞任国务总理。张国淦历任国务院秘书长、农商总长、司法总长。府院之争时，张国淦曾为维持府院关系而奔走调停。但在西原借款问题上，身为农商总长的张国淦不顾日本公使林权助和段祺瑞的威逼利诱，拒绝签字，从而失去了段祺瑞的信任。后来皖系军阀失势，张国淦