Fra 1876 drev han egen advokatforretning i Christiania. I 1891 ble han kompanjong med Annæus Schjødt, under firmanavnet Krog & Schjødt. I 1897 ble han også kommuneadvokat i Christiania og hadde denne stillingen alene til 1920, da den ble delt. Han var kommunens første fastlønnede advokat. Han var også medlem av direksjonen i Hovedbanen fra 1884 til 1908 og medlem av representantskapet i Norges Bank.