Mot slutten av første verdenskrig ble han banksjef i Stavanger Privatbank. Da den store bankkrisen kom i 1920, ble banken som han var sjef for hardt rammet, og han fikk kritikk. Banken gikk konkurs i 1921. I 1920 var han i statsråd blitt utnevnt til sorenskriver på Jæren. I kjølvannet av bankens konkurs ble Berg anmodet om å fratre sorenskriverstillingen, men han nektet. I 1922 ble han suspendert fra stillingen, men han nektet likevel å søke avskjed. Han ble endelig fradømt stillingen i 1924. Berg fikk også injuriesøksmål mot seg, og i 1923 ble han dømt for dette. Senere fortsatte han sin advokatpraksis i Stavanger. I 1917 opprettet han i sin mors navn. For dette ble mor og sønn hedret med hver sin gate i Stavanger, og - som begge ligger på Eiganes.