明治6年（1873年）6月、岩倉使節団の一員として欧米視察から帰国する。9月、「兵は凶器なり」と指摘した上申書（理事官功程）提出、自身が遊学中に施行された徴兵令の延期を求めた。7月、東京鎮台司令長官に任命されるが、11月には同職を解かれ清国特命全権公使に任命される。山田本人に渡清の意思はなく、木戸孝允も大久保利通に対して同職の解任の働きかけをしている。しかし、清国駐在に至る前の明治7年（1874年）2月に佐賀の乱が勃発したため、同職を解かれ、士族反乱鎮圧のために九州へ出張した。士族反乱は翌3月に平定し、7月に乱を治めた戦功を賞され、一方で伊藤博文らの説得により、現役陸軍少将のまま司法大輔（次官）の職に就任した。以後、日本の近代法の整備に務めるが、帰国以来、山縣有朋との徴兵令施行などの意見衝突によって対立していた山田は、陸軍少将の肩書きのみで陸軍に実質的な地位はなく、政府内で微妙な立場であったため、方向転換せざるを得なかった。明治8年（1875年）9月、刑法編纂委員長に就任する。明治10年（1877年）3月、西南戦争勃発により、司法大輔を辞職する覚悟で単身京都に出張し、鎮圧出征を懇願する。木戸孝允らの協力の末、別働第二旅団長として出征を命ぜられる。同年9月、西南戦争終結し、同年11月、戦功によって勲二等を賜る。明治11年（1878年）2月、刑法草案審査委員として旧刑法（明治13年公布）および治罪法（明治13年公布、のちの刑事訴訟法）の編纂に従事する。同年11月、陸軍中将に任ぜられる。明治12年（1879年）7月、長男・山田金吉が誕生する。9月、参議兼工部卿に任ぜられる。11月、工部大学校第1回卒業式で、卒業生一人一人に証書を手渡す。明治13年（1880年）2月、専任参議に任ぜられる。3月、長男・金吉が死亡する。明治14年（1881年）10月、参議兼内務卿に就任する。明治16年（1883年）4月、東京府の都度重なるコレラの流行などを受け、衛生上の理由から東京府知事芳川顕正に対し、「水道溝渠等改良の儀」を示達、神田下水着工の端緒を開く。同年12月、内務卿を辞任し、司法卿兼参議に就任する。以降、法典編纂事業を主導する。裁判官の資格制度を整理し、判事登用規則を実現させることで無資格の縁故採用を廃止し、法学教育を受けた人材を採用する法制が具体化された。明治17年（1884年）、勲功により伯爵を叙爵。
陳朝においては、民族文化が高まりを見せる。1272年に黎文休（レ・ヴァン・フー）を中心とした国史院の官吏によって、30巻から成るベトナム最初の正史である『大越史記』が編纂された。『大越史記』は『資治通鑑』同様の編年体通史であり、18世紀まで大越で編纂された史書の様式の先駆けとなった。建国当初の陳氏の人間のほとんどは高度な学識を有しておらず、陳朝建国の功績者である陳守度でさえも『大越史記全書』において上辺だけの学識の持ち主と評されている。しかし、李朝に代わって陳朝が成立すると、陳朝の王侯貴族は文化に特別な意味を見出すようになり、その傾向は特に文学において顕著であった。聖宗の弟の昭明王陳光啓（チャン・クアン・カイ）が第二次モンゴル戦争の勝利を記念するために編集した詩集『従駕還京』は、陳朝期におけるベトナム人の民族意識を表す好例の一つとして挙げられる。民族意識はモンゴルの第二次侵攻の際に陳国峻が発した檄文『檄将士文』にも見られ、『檄将士文』はベトナムにおける檄文の形式として最も有名である。皇族の陳氏以外に、文人官僚や学者も詩文を著した。漢詩の優れた書き手として知られる莫挺之（マク・ディン・チー）、張漢超のほかに、対モンゴル戦争で活躍した范五老も詩集『述懐』を著した詩人としての一面を持っていた。仏教界からは仏教思想と禅の精神を表現した文学作品が多く現れ、仏教文学の著者としては仁宗らが知られる。また、宮廷の人間や仏僧などの上流階級によって書かれた文学作品以外に、『粤甸幽霊集』などの民間伝承を集めた作品集も編集された。これらの作品集は文学的な価値以外に、古代ベトナムの歴史をひも解く重要な手掛かりとしても評価されている。陳朝期の文学は、13世紀末からのチュノムによるベトナム語文学の勃興期という面でも大きな役割を持っている。陳朝以前、ベトナム語は主に口伝の歴史と諺に用いられていたが、仁宗の治世にベトナム語は初めて第二の公用語として漢語と共に公文書に使われる。官吏の阮詮は1282年にチュノムによる文学作品を発表し、これがチュノムによって書かれた詩として最も古い記録の一つとして考えられている。阮詮より後の時代になると、チュノムは次第に国学でも使われるようになり、朱文安は漢詩以外にチュノムによる作詩も行った。陳朝期のチュノム文学の業績は、後の時代のベトナム語による文学作品の発展の基礎となる。他方、陳朝支配下の北ベトナムではチャンパ王国のチャム族、ラオスに居住するラーオ族の言語も話されていた。また、聖宗の弟である昭文大王陳日燏（チャン・ニャット・ズァット）はチャム語以外に単馬錫（トゥマシク、現在のシンガポール）の言語を解したという。1374年には中国人の服装をすることと共に、チャム族とラーオ族の言葉を真似て使うことが法令によって禁止される。