Som trener for Manchester City 2009–13 ble det seier både i FA-cupen i 2011 og Premier League 2011/12. Men så tapte de cupfinalen i 2013 og han måtte slutte. Som trener for 2013–14 ble det cupseier, fulgt opp med to sesonger for 2014–16 og en sesong for før han overtok i 2018.