L'année suivante, il participe à la conférence sur le désarmement naval de Genève. Rappelé au Japon en 1930, sa carrière connait une remarquable ascension : il obtient son premier commandement, celui du croiseur lourd "Aoba" à partir du , puis celui du cuirassé "Ise" un an plus tard. Contre-amiral en 1932, Koga prend la tête du de l'état-major naval, puis en 1933, celle du (renseignements), ce qui lui permet de jouer un rôle non négligeable dans le réarmement naval du Japon dans les années 1930. Le , Koga est nommé vice-amiral et devient chef d'état-major de la marine impériale en 1937, peu de temps avant le début des hostilités avec la Chine.