Zongli Yamen został utworzony w ramach tzw. restauracji Tongzhi (powstrzymania upadku dynastii Qing poprzez przywrócenie tradycyjnego porządku) w celu wyposażenia pekińskiego rządu w skuteczną instytucję, która potrafiłaby przeciwstawiać się wpływom obcych mocarstw po okrutnej porażce i okupacji miasta w czasie drugiej wojny opiumowej (1857-1860). Stworzenie takiego urzędu odpowiedzialnego za stosunki z zachodnimi krajami stało się koniecznością także w wyniku zmuszenia dworu Qingów do przyjęcia nierównoprawnych traktatów: nankińskiego (1842), tiencińskiego (1858) i pierwszej konwencji pekińskiej (1860), która obejmowała trzy odrębne traktaty zawarte pomiędzy Chinami Qingów a Wielką Brytanią, Francją i Rosją.