因李鸿章为避私嫌而不愿保举张氏，李鸿章逝后张佩纶更觉起复无望。1895年，张佩纶夫妇移居南京。先在城西七家湾回民区租屋居住。1900年前后买下白下路的张侯府，建造西式洋房和花园。白下路张佩纶旧居已列为江苏省文物保护单位，中华民国立法院曾在此办公。光绪二十九年（1903年2月4日），张佩纶55岁时以布衣之身在南京忧郁离世。袁世凯说，“天下翰林真能通的，我眼里只有三个半，张幼樵、徐菊人、杨莲府，算三个全人，张季直算半个。”
家庭.张佩纶结过三次婚，有三子一女。元配朱芷芗（?