W reprezentacji swojego kraju Fan zadebiutował w 22 sierpnia 1992 w zremisowanym 2-2 meczu z Koreą Północną. W tym samym roku Klaus Schlappner powołał go do kadry na Puchar Azji. Na tym turnieju Chińczycy zajęli 3. miejsce a sam Zhiyi zagrał w 5 spotkaniach swojej drużyny. Cztery lata później znów znalazł się w składzie na następny Puchar Azji. Tym razem Chinom poszło gorzej, ponieważ odpadli w ćwierćfinale. Fan wystąpił we wszystkich 4 meczach swej drużyny. W roku 2000 Velibor Milutinović powołał go następną edycję Pucharu Azji. Chiny tym razem zajęły 4. miejsce. Zhiyi zagrał w 4 spotkaniach. Dwa lata później ten sam selekcjoner powołał go na mundial. Chińczycy zajęli na nim ostatnie miejsce w swojej grupie a sam Fan zagrał w 1 spotkaniu (przegranym 0-2 z Kostaryką). Było to jego ostatnie spotkanie w kadrze. Łącznie w barwach narodowych zagrał 109 razy.