Under Bondevik I-regjeringen ble Karlsen i 1997 utnevnt til leder for Regjeringens forsvarspolitiske utvalg, men fikk ikke fornyet tillit i dette vervet da Stoltenberg I-regjeringen tiltrådte i 2000. Karlsen hadde også oppdrag som tilrettelegger for det russiske selskapet Yukos ved dets forsøk på å sikre majoritetseierskap i Aker.