Bjarni er utdannet jurist. Han ble valgt til Alltinget første gang i 2003. I 2009 ble han valgt til partileder for Sjálfstæðisflokkurinn. Han tok over etter Geir H. Haarde. Han ledet sitt parti til seier i alltingsvalget i april 2013.