符合蒋介石的期望，蒋作宾遂奉蒋介石的指示，对日本採取克制态度。1935年（民国24年）5月，两国公使馆升格为大使馆，蒋作宾成爲中国第一位驻日本大使。蒋作宾任驻日本公使、大使期间，日本外务省情报部长天羽英二发表《天羽声明》，广田三原则被提出，蒋作宾负责与广田弘毅就两国间悬案进行交涉。蒋作宾执行的对日本妥协退让的路线遭到中国国内上下的反对。同年12月，为应对日本的侵略，国民政府改组，汪精卫卸任行政院长，蒋作宾被免去驻日本大使。归国后，他转任国民政府内政部部长。
晩年.1936年（民国2