清寒。同治九年（1870年）举人，同治十年（1871年）辛未科二甲进士，选庶吉士，散馆授翰林院编修，升侍讲，早年在京城与李鸿藻、潘祖荫、张之洞、陈宝琛、宝廷等同为「清流」，以弹劾大臣而闻名，例如李鸿章及对俄国谈判示弱的崇厚等。1884年福州马尾对法国之战前夕，张佩纶加左副都御史，会办福建海疆，然张不理会詹天佑等人的警告，对以商船示人而停泊在马尾港达一月的法军战舰掉以轻心，致令马尾海战中福建水师甫开战即全军覆没，张佩纶开战后立即逃跑，还饰辞上奏，清廷下旨发帑犒赏，命兼船政大臣。等到清廷得知真相，他被革