På LO-kongressen i 2005 ble han valgt til 2. nestleder. Etter at Roar Flåthen overtok som leder, 17. april 2007, etter at Gerd-Liv Valla gikk av i mars fikk han vervet som nestleder i LO.