Rõivas ledet finansutvalget i Riigikogu 2009–2011 og EU-utvalget 2011–2012. Da justisminister Kristen Michal fratrådte etter korrupsjonsanklager i 2012, overtok sosialminister Hanno Pevkur denne ministerposten. Rõivas ble utnevnt til ny sosialminister, og ble med dette det yngste medlemmet av Andrus Ansips regjering.