Longva tok hovedfag i samfunnsøkonomi ved Universitetet i Oslo i 1995 og doktorgrad i 2001. Han var konsulent i McKinsey & Company fram til 2003, da han ble avdelingsdirektør i Moderniseringsdepartementet. Han ble ekspedisjonssjef i Moderniseringsdepartementet i 2005, avdelingsdirektør i Finansdepartementet i 2006 og ekspedisjonssjef i Finansdepartementet i 2011.