Krag ble ofte kalt Sørlandsdikteren, og skrev både lyrikk, noveller, romaner, skuespill og sakprosa. I sine tidligere år arbeidet han som tidsskriftredaktør, journalist og kunstkritiker. Han var skjønnlitterær hovedkonsulent for Aschehoug forlag fra 1911 og livet ut.