Tiongkok sudah memiliki suatu Konsulat Jenderal di Jakarta sebelum kemerdekaan Indonesia, yakni dalam masa Belanda saat Jakarta dikenal sebagai Batavia. Negosiasi antara Tiongkok dibawah Dinasti Qing dan Belanda, menurut legasi Tiongkok ke Belanda pada saat itu , sudah berbuah persetujuan Belanda akan didirikannya suatu konsulat Tiongkok di Hindia Belanda. Perjanjian konsuler antara kedua negara ditandatangani pada tahun 1911, namun karena terjadinya Revolusi Xinhai para konsul ditunjuk oleh pemerintah Republik Tiongkok. Saat Perang Dunia Kedua pecah, Konsulat Jenderal tersebut terletak di daerah Kalibaru. Dikarenakan invasi pulau Jawa oleh Jepang, konsulat tersebut dievakuasi, namun konsul jenderal Tiongkok tertangkap pasukan Jepang ketika kapalnya karam dikarenakan torpedo kapal selam Jepang. Seusai perang, konsul jenderal baru sudah tiba pada bulan Januari 1946.