第1次伊藤内閣期、ボアソナードとの会見で外務大臣・井上馨の不平等条約改正に不備があり、治外法権撤廃の代わりに外国人被告の裁判には外国人裁判官を半数以上任用することを条件としていると知り、これが日本の立法権・司法権の独立を侵すものであるとして反発を覚える。条約改正外交への国民の反発から民情不安が醸成され、明治20年（1887年）12月に山縣有朋の提案で伊藤が保安条例による強権発動におよび、憲法制定のため努力したとしても政府と国会の衝突が不可避であり、憲法が空文化するとして辞表を提出する。これは憲法草案作成中の第1次伊藤内閣を危機にさらすこととなったため、伊藤は慰留に努めた。この条約改正問題は馨が明治20年（1887年）9月に辞職することで決着となる。馨の後は大隈重信が外相となり、伊藤の首相辞任後に黒田清隆が樹立した黒田内閣の下で条約改正に当たったが、大隈の改正案も外国人判事任用で前の案と変わらない内容に反発して明治22年（1889年）9月に辞表を提出、伊藤に反対運動を起こすよう促す一方で、元田永孚・山田顕義・山縣有朋などを訪ねて改正中止の輪を拡大させた。同年10月に大隈が爆弾テロで重傷を負い、黒田が責任を取って辞職したことで条約改正は中止に決まった。次の第1次山縣内閣では教育勅語の制定と予算案に関する対策を練り、明治23年（1890年）7月19日に枢密顧問官を兼任、11月29日に帝国議会が開会してからは憲法第67条の解釈（予算案の削除対象）を伊藤らと相談、翌明治24年（1891年）2月までに内容を纏めて提出、政府と議会の事前協議で予算案を確定してから予算案の増減を議会で決めるべきと上奏した。この方法を元にして3月に政府と議会が妥協して予算が成立、閉会を迎えたが、この頃から持病の結核が悪化、伊藤や山縣に病状を訴え休職・辞職を願い出るようになっていた。同年5月に松方正義が首相となり第1次松方内閣が成立したが、井上は同月に法制局長官を辞任（6月に文事秘書官長に転任）、松方とは協力せず傍観、明治25年（1892年）に松方に替わり伊藤が再度首相に在任した第2次伊藤内閣では政権に加わらなかったが、第4回帝国議会で政府と議会の対立が激しくなり予算の成立が難航した時、明治26年（1893年）に伊藤に明治天皇の詔勅を引き出させ事態を打開するよう働きかけ、2月10日の和協の詔勅による天皇の和睦呼びかけで政府と議会の和睦を果たし予算を成立させ、穏健に議会閉会へ持ち込んだ。
フランクリンの戦いは前日のスプリングヒルの戦いに続いて起こった。フッドのテネシー軍はテネシー州における北軍の一部を破ることができず、スコフィールドのオハイオ軍を取り逃がしていた。フッドはスコフィールドがさらに北のナッシュビルにいるジョージ・ヘンリー・トーマス少将のカンバーランド軍と合流できる前に、その軍隊を打ち破ろうと望んだ。もし北軍が合流してしまえば60,000名以上の軍隊になるはずだった。しかし、フランクリンで両軍が対峙した時、フッドは約38,000名の勢力だったのにたいし、スコフィールド軍は30,000名だった。スコフィールド軍はスプリングヒルから北へ強行軍し、その前衛隊は午前6時頃にフランクリンに到着した。第23軍団を一時的に指揮していた師団長のジェイコブ・ドルソン・コックス准将（後のオハイオ州知事）が直ぐに1863年の第一次フランクリンの戦い時に構築されていた胸壁の周りに強力な防御陣地を準備し始めた。防御戦はフランクリン市の北西から南東に掛けておよそ半円状に取り囲むように造られ、その反対側はハーペス川となっていた。スコフィールドは川を渡るために使える舟橋が無かったので川を背にフランクリンを守ることに決めた。舟橋を運ぶための荷車が無かったので、コロンビアからの撤退時に置き去ってきていた。川に架かる2つの恒久的な橋（どちらも焼かれていた）のうちの1つを修復し、荷車や軍隊を運ぶことを可能にするために損傷の無い鉄道橋には板を張るための時間を必要としていた。その輜重隊は主要道路を空けておくために側道に駐め置かれたが、まずは浅瀬を次に焼けた道路橋を使って渡り続け、午後遅くには急普請の2つの橋で渡った。戦闘の開始時点では輜重隊のほぼ全部がハーペス川を渡り、ナッシュビルに向かう道路上にあった。正午までに北軍の防御工作は塹壕で構成される強力な外郭線と中央で約40ないし65ヤード（36ないし59m）後方の第二次防御線の準備が整った。北西から反時計回りにネイサン・キンボール少将（第4軍団）、トマス・H・ルーガー少将（第23軍団）およびコックス（第23軍団）の師団が並んだ。第4軍団ジョージ・D・ワグナー准将師団の2個旅団が半マイル (0.8 km)前に出て、南軍の前進を遮蔽し、圧力を受けたときには後退するよう命令されていた。第4軍団トマス・J・ウッド准将の師団はハーペス川の北に位置し、側面攻撃の可能性を探ることとされた。スコフィールドは午後6時までにフッド軍が到着しなければ、その歩兵隊を川を渡って引き上げさせる考えだった。フッド軍は午後1時ころフランクリンの南2マイル (3 km)にあるウィンステッドヒルに到着し始めた。フッドはその攻撃的で時には向こう見ずな戦闘指揮で知られており、テネシー軍の指揮を執って以来胸壁の背後にいる場合を除き戦うことに気乗りしないでいるという批判に曝されていた。フッドは部下の上級将軍達の反対を押し退けて、衰えていく午後の光の中で、胸壁のある2つの防御線の背後に強固に防御を固め、ワグナー隊を半マイル前に出している北軍に対して、正面攻撃を命じた。多くの者は、北軍が前夜スプリングヒルで南軍から擦り抜けたことにまだ怒っていたと考えたが、怒っていようといまいと、フッドの目標はスコフィールドとその軍隊がナッシュビルに逃亡する前に潰しておくことだった。南軍は午後3時半から4時にかけて、ベンジャミン・F・チーザム少将の軍団を左翼にアレクサンダー・P・スチュワート中将の軍団を右翼にして前進を始めた。