州藩足轻伊藤弥右卫门养子，改名为「伊藤直右卫门」，因此「水井十藏」亦改姓「伊藤」，继承此家。1853年，寄宿于寺院，后又在藩士福原等家作侍童，平时做杂役，闲时习文识字。1856年，往相州服役，守卫边防。1857年，返回长州，他先是投奔，后入松下村塾，受教于改革派下级武士的领导人吉田松阴门下，深受吉田器重。1858年10月，伊藤前往长崎，入幕府办的炮术传习所，学习军事。1859年6月，回长州认识了桂小五郎。10月，随从桂小五郎一起去江户。1862年12月12日夜，21岁的伊藤与久坂玄瑞