Shimada mantenne il posto di ministro per gran parte della guerra; come tale era però "de facto" escluso dai dettagli tattico-operativi, in mano allo stato maggiore generale, e si occupava assai più frequentemente di questioni amministrative. In seguito alle audaci operazioni anfibie statunitensi nelle isole Marshall e al devastante attacco su Truk, il governo e i vertici delle forze armate andarono incontro a un rimpasto (21 febbraio 1944): Tōjō sostituì il generale Sugiyama nella carica di capo di stato maggiore dell'esercito, destituì il capo di stato maggiore della marina ammiraglio Nagano e lo rimpiazzò con l'ammiraglio Shimada, che continuò a esercitare le funzioni di ministro. Egli, persona molto religiosa e oltremodo cauta, cercò sempre durante il suo mandato di accontentare ogni suo interlocutore e non seppe mai imporsi su nessuno, men che meno al primo ministro il quale premiò la sua fedeltà (o quiescenza) con la nomina alle due teste della flotta imperiale; la sua immagine (già non particolarmente carismatica come fa intuire il soprannome molto noto in marina di "Yurufun" - "mutandoni cadenti") fu inoltre screditata presso il pubblico da una foto che lo ritraeva di fianco e di spalle a Tōjō quasi fosse un suo servitore. I rapporti di sudditanza con Tōjō, d'altro canto, trascinarono Shimada nella rovina del gabinetto quando il 17 luglio, dopo la battaglia del Mare delle Filippine e la caduta di Saipan, il Primo ministro fu costretto a cedere tutti i suoi uffici; quello stesso giorno, infatti, Shimada rassegnò le dimissioni da ministro della marina e il 2 agosto lasciò anche il comando dello stato maggiore generale. Fu quindi nominato consigliere navale presso il ministero della marina (guidato dall'ammiraglio Mitsumasa Yonai) e questo incarico gli fu riconfermato il 2 settembre e il 20 dicembre 1944. Il 20 gennaio 1945, di sua iniziativa, dette le proprie dimissioni dal servizio attivo e fu posto nella lista degli ufficiali a riposo.