Han var sønn av Nidarosbispen Peder Krog (1654–1731) og Anna Dorothea Bremer (1659–1746), datter av Jørgen Bremer som var ordfører i tyske Kiel. Faren var prest på Samsø da Nils ble født, men de flyttet til Trondheim i 1689 da faren ble biskop i Nidaros bispedømme. Nils tok sin teologiske embetseksamen i 1701 og reiste til utlandet i tre år. Fra 1704 var han tilbake, som ved katedralskolen. Det var faren (bispen) som utnevnte sønnen (Nils) i embetet som rektor ved Trondheim katedralskole etter avdøde Anders Borch (1664–1709). Året etter tok han også magistergraden (sammen med sin viserektor, han Hans Skanke). Skolen hadde brent ned under bybrannen i 1708 og det var først senhøstes 1709 at der ble noe undervisning, og nybygget var ikke ferdig enda i 1716. Ellers sier skolens historie at Krog slurvet litt med regnskapene og slet litt med at hans sjef også var hans far. Etter han ga seg i 1729 ble han kanselliråd. Faren (biskopen) døde i 1731. Nils døde i tyske Mainz i 1738, på en badereise i Europa der han hadde besøkt broren Jørgen Henrik (født 1687) som jobbet som bibliotekar hos paven. Nils hadde testamentert ett tusen riksdaler til Nidarosdomen.