Ved Helle Thorning-Schmidts regjeringsdannelse i 2011 ble Østergaard minister for forskning, innovasjon og høyere utdannelse. I 2014 gikk Socialistisk Folkeparti ut av regjeringen, og i den påfølgende ministerrokaden ble Østergaard ny skatteminister.