Ōshima fue ascendido a mayor general en marzo de 1935. Bajo la dirección de Ribbentrop, Ōshima se reunió en privado con Hitler esa caída. Con el apoyo del liderazgo alemán y el Estado Mayor del Ejército Imperial Japonés, Ōshima progresó rápidamente mientras estaba en Berlín. Alcanzó el rango de teniente general y fue nombrado embajador en Alemania en octubre de 1938. Luego fue transferido a la reserva del ejército. Durante sus primeros meses como embajador, según la evidencia presentada más tarde en el Juicio de Nuremberg de los principales criminales de guerra, planeó el asesinato de Iósif Stalin por agentes rusos que simpatizaban con su causa. En una conversación que Ōshima tuvo con Heinrich Himmler el 31 de enero de 1939, el primero expresó la esperanza de que la cooperación germano-japonesa en el campo de inteligencia conduzca eventualmente a la desintegración de la Unión Soviética. Ōshima fue instrumental en la falsificación y firma del Pacto Antikomintern el 25 de noviembre de 1936 y el Pacto Tripartito el 27 de septiembre de 1940.