Allo scoppio della Prima guerra mondiale, Nikolaj Michajlovič si unì allo sforzo bellico con il titolo formale di aiutante di campo generale, una posizione meramente onorifica. Egli non era più stato in servizio attivo da un decennio; in ogni caso venne inviato sul fronte sudoccidentale a fronteggiare le armate dell'impero austro-ungarico. Nell'agosto del 1914 si trovava di stanza a Kiev, da dove venne poi trasferito a Rivne. Non interferì con le questioni militari e gli venne invece affidato l'incarico di fare visite presso gli ospedali. Nel giro di pochi giorni, alla fine di agosto, 6 000 soldati feriti attraversarono Rovno; Nikolaj era inorridito da questa carneficina: «Ho visto tanta sofferenza, tanta abnegazione che il mio cuore si è fermato, soffocato dallo spettacolo orribile del dolore umano». Il servizio nell'esercito ebbe un grande impatto sul Granduca: «La sofferenza dei feriti mi strazia il cuore», scrisse. Visitava giornalmente gli ospedali e «le masse di feriti»; Ricoprì questa carica finché le sue visite ospedaliere si resero meno necessarie, nel 1915. In ogni caso questa esperienza lo lasciò amareggiato: «C'è ogni ragione per diventare socialisti dopo questi massacri», disse. Dopo la terribile sconfitta russa nella Prussia Orientale, nella battaglia di Tannenberg, Nikolaj Michajlovič scrisse profeticamente: «Con tutti i disastri militari russi nasce una gigantesca rivoluzione, che condurrà alla fine molte monarchie ed il trionfo del socialismo internazionale».