Berges forrige stilling i organisasjonen var generaldirektør og sekretær for Europarådets ministerkomité. Før det fungerte han i mer enn syv år som direktør for generalsekretærens private kontor og visegeneralsekretær. Før han begynte i Europarådet jobbet han som norsk diplomat, blant annet som seniorrådgiver i internasjonale spørsmål til den norske statsministeren.