县土岐郡土岐村市原（今瑞浪市）。年幼的时候被认为是神童，在旧制岐阜县立惠那中学校（今岐阜县立惠那高等学校）修完四年生之后，在1930年跨级进入第一高等学校（今东京大学教养学部）学习。1931年加入共产青年同盟和国际反帝反战同盟东京委员会印刷局，对遭遇特别高等警察（特高）打击而毁灭的共产青年同盟在一高的组织进行重建。然而被当局得知，于1932年9月被迫转入地下活动，其本人也在12月被学校开除。伊藤负责东京城西地区大学的共产青年同盟组织的活动。在东京商科大学（今一桥大学）发生「笼城事件」后，共产青年同盟规模