Koga tuli yhdistetyn laivaston ylipäälliköksi 21. huhtikuuta 1943 Isoroku Yamamoton kuoltua amerikkalaisten iskussa. Kogan johdolla laadittiin niin sanottu Z-suunnitelma, jonka mukaan Japani puolustaisi valloittamiaan alueita eteläisellä Tyynellämerellä ja valmistautuisi ratkaisevaan taisteluun lyödäkseen Yhdysvallat. Hän kaavaili myös suurta vastahyökkäystä Aleuteilla, mutta se ei onnistunut. Japani joutui lopulta aloittamaan perääntymisen Gilbertsaarilla ja Filippiineillä. Kogan suunnitelmassa Saipanin saari Mariaaneilla ja Davaon kaupunki Filippiineillä määriteltiin ”viimeisiksi” asemiksi, joista ei luovuttaisi. Koga joutui helmikuussa 1944 siirtämään päämajansa amerikkalaisten pommitusten vuoksi Trukista lähes 2 500 kilometriä itään Palauhun. Hän kuoli 31. maaliskuuta 1944 ollessaan evakuoimassa päämajaansa Palaulta edelleen Davaoon, kun häntä kuljettanut Kawanishi H8K -lentovene putosi taifuunissa valtamereen. Myös Kogan esikuntapäällikköä Shigeru Fukudomea kuljettanut toinen lentovene putosi samana päivänä; Fukudome selvisi, mutta hänen mukanaan ollut kopio Z-suunnitelmasta päätyi amerikkalaisille.