Nils Aall Krag ble født i Risør i Nedenes, og var sønn av Peter Rasmus Krag. Han er bror av forfatteren Thomas Krag og dikteren Vilhelm Krag. Krag vokste opp i Kristiansand og startet på Kristiansand katedralskole i 1881. Han giftet seg med Anna Constance Johansen Flørnes (født 6. november 1881, død 29. mai 1966). De fikk 5 barn: Constance Krag (født 6. juni 1904), Kari Krag (født 20. november 1905), Hermana Kenty Krag ( født 20. mars 1908), John Aas Krag (født 10. desember 1909) og Anne Cathrine (Kine) Krag (født 4. oktober 1915).