Ji gikk på skolen i Jinan og studerte ved universitetet i Shandong og universitetet i Tsinghua. I 1935 dro han som utvekslingsstudent til universitetet i Göttingen og spesialiserte seg på sanskrit og pali under Ernst Waldschmidt. Han tok doktorgraden i 1941 og studerte tokharisk under Emil Sieg. I 1946 vendte han tilbake til Kina og ble professor ved universitetet i Beijing. Her grunnla han fakultetet for østlige språk, hvor han selv ble dekan. Under kulturrevolusjonen oversatte han til kinesisk i hemmelighet. Han beskrev denne perioden i eridringene han utga i 1998. I 1978 ble han visepresident for universitetet.