Berg var også innenriksminister i Regjeringen Neergaard II fra 5. mai 1920 til sin død.