放庵（本名国太郎）之次男。小杉二郎13岁时便自行制作出状似琵琶的乐器，而获得其父之褒奖。1933年进入东京美术学校（现改称东京艺术大学）工艺科图案部就读，他选择工艺科的目的不明，不过对于木工很有兴趣，毕业作品是一套木制桌椅。毕业后一年入伍当兵，在中国东北地区（满洲）的牡丹江与公主岭服役。当时日本关东军所属的战车第三连队设有「公主岭学校」，专门训练储备干部，小杉二郎即为第一期240名学生之一。1944年（昭和19年）2月官拜中尉退伍，4月回到商工省工艺指导所东京本所工作。工艺指导所系为了振兴工业设计及产业