Diesem Ruf folgte Felix von Gutschmid und übernahm 1892 das Amt des Gesandten in Tokyo. Damit war er der erste deutsche Gesandte vor Ort nach der erzwungenen Abdankung des Reichskanzlers Otto von Bismarck (1815–1898). Ab 1893 übernahm er in Tokyo auch den Vorsitz der Deutschen Gesellschaft für Natur- und Völkerkunde Ostasiens (OAG). Nach der Beendigung des Ersten Japanisch-Chinesischen Krieges 1895 nahm er für das Deutsche Reich, das sich in einer Tripartite-Koalition mit Frankreich und Russland befand, in der Intervention von Shimonoseki erheblichen Einfluss auf das Ergebnis des Friedensvertrages von Shimonoseki. Dabei machte er ohne Not und durch ungewöhnliche Eigenmächtigkeit die Niederlage Japans zu einer Demütigung, die das deutsch-japanische Verhältnis anschließend über mehrere Jahre schwer belastete. In das bisher freundschaftliche Verhältnis zwischen beiden Ländern mischten sich nunmehr Enttäuschung und Misstrauen. Dieser eingetretene Schaden wurde 1898 mit dem Erwerb der Bucht von Kiautschou durch Deutschland noch weiter verstärkt. Der damit einsetzende Sturm gegen die deutsche Gesandtschaft in der japanischen Presse zwangen von Gutschmid zu einem Entschuldigungsschreiben, das im Parlament unter Beifall verlesen wurde. Die damit vollzogene Demütigung seiner Person war im Endeffekt dann auch ein Resultat seines insgesamt arroganten Verhaltens während der Amtszeit und seiner recht unfreundlichen Haltung Japans gegenüber. Von seinem Heimaturlaub ab März 1897 kehrte er nicht mehr nach Tokyo zurück. Aus diesem Grund wurde er dann im August 1897 abberufen. Auf eigenen Wunsch wurde er 1899 in den Ruhestand versetzt.