他因此改姓氏为伊东而被称为伊东大藏。由于他的努力让位于深川的道场相当兴盛，门徒也急速增加。另依据元治元年8月当时水户藩的随从的纪录、他的妻子叫做满，两人间生下叫做饭、英的女儿。
新选组.元治元年（1864年）10月，经由同门的藤堂平助的介绍而进入了新选组。同年十一月，和弟弟铃木三树三郎，朋友、、服部武雄、门人、中西昇前往京都。这个上洛的元治元年正好是甲子年，因此改名为伊东甲子太郎。在新选组，因为其文武兼备的才能而且身为伊东道场的道场主人，因此被拔擢参谋兼文学师父，其长相俊美而且