Родился в корейской семье во Владивостоке, сын крещеного корейца, купца 1-й гильдии. В 7 лет был послан на учёбу в Японию: в 1907—1917 учился в колледже в Токио, после чего вернулся во Владивосток. В 1923 окончил восточный факультет Владивостокского университета, во время учёбы стал одним из учредителей Дальневосточного отдела Всероссийской научной ассоциации востоковедения. К этому периоду (японской интервенции) относятся его первое взаимодействие с разведкой и контрразведкой: был призван сначала белым правительством Приморья, как знаток японского языка. Видимо, тогда же начал сотрудничать с большевиками (поскольку местные корейцы склонялись к коммунистам, а не к белым). К этому периоду относится знакомство, о котором он в старости рассказал Юлиану Семенову: о знакомстве с большевистским шпионом, образ которого вдохновит семеновского Исаева. Ким станет прототипом связного Исаева, корейца Чена по прозванию Марейкис в романе «Пароль не нужен»; в советской экранизации эту роль сыграет Василий Лановой.