Gong oli 1880-luvulle saakka yksi Kiinan johdon keskeisimmistä vaikuttajista ja toimi usein maansa edustajana ulkovaltojen kanssa neuvoteltaessa. Keisari Xianfengin kuoltua elokuussa 1861 maahan muodostettiin kahdeksanhenkinen holhoojahallitus keisari Tongzhin alaikäisyyden ajaksi. Sen tosiasialliset johtajat olivat Gong sekä kaksi leskikeisarinnaa, Cixi ja Ci'an. Etelä-Kiinassa vuosia riehunut Taiping-kapina saatiin lopullisesti nujerrettua vuonna 1864, minkä jälkeen Gong suuntasi huomionsa yrityksiin tehostaa Kiinan hallintoa hillitsemällä korruptiota ja vahvistaa armeijaa perustamalla länsimaisten esikuvien mukaisia asetehtaita. Hänen vaikutusvaltansa hovissa kuitenkin väheni vallan kasautuessa leskikeisarinna Cixille, joka lopulta erotti hänet hallituksesta vuonna 1884. Gong kutsuttiin vielä 1894 takaisin ulkoasiainviraston johtoon, missä tehtävässä hän toimi kuolemaansa asti.