Storberget var sykemeldt fra 25. februar til 30. mars 2009. Fra januar til mars 2011 var han i foreldrepermisjon, og Grete Faremo var konstituert justisminister. Han gikk av som statsråd den 11. november 2011 og ble etterfulgt av Grete Faremo. Da han vendte tilbake til Stortinget, tok han sete i Stortingets finanskomité i resten av perioden. Fra 2013 til 2017 var han medlem av Stortingets næringskomité og Arbeiderpartiets landbrukspolitiske talsmann.