于岐阜県武仪郡上有知町一个税务官的家庭。之后到爱知县上学，然后转移到朝鲜总督府管治下的朝鲜。大正七年（1918年），他考上东京早稻田大学高等师范部预科，但翌年离开了学校。
日俄协会学校时期.大正八年（1919年），他考上位于满洲（今中国东北）的学校。10月，杉原进入日俄协会学校（今哈尔滨学院）就学，同年11月从早稻田大学中退后，以日本外务省公费留学生的身份派驻到哈尔滨，并开始学习俄语。大正九年（1920年），在朝鲜加入大日本帝国陆军服务。大正十三年（1924年），以秘书