Сун започва кариерата си в Далиан Шиде. Там се утвърждава като един от най-добрите футболисти в страната, печели 4 пъти титлата на Китай и по веднъж Купата и Суперкупата. През 1998 г. Сун Джихай и Фан Джии подписват с Кристъл Палас в Първа английска дивизия и стават първите китайци в английския футбол. Сун играе със статут на преотстъпен и записва 23 срещи за Палас. Отборът завършва сезона в средата на таблицата и Джихай се завръща в Далиан. През 2002 г. преминава в Манчестър Сити за 2 милиона евро. През лятото на същата година участва на Световното първенство в Япония и Южна Корея. В първата среща срещу обаче защитникът получава контузия и не играе в другите 2 мача от групата. Китай отпада в груповата фаза с голова разлика 0:9.