33年（昭和8年）9月15日御茶之水～饭田町间复复线化工程完工，中央线急行电车（现在的中央线快速）开始运行。随着总武本线工程，御茶之水也新建第二代站房。当时的建筑界吹起维也纳分离派风格，试图以新型建材寻找最适合的架构，而不被过去风格所束缚。因此，使用铁、玻璃、混凝土等材料、採无装饰实用主义的国际样式建筑诞生，也是日本现代建筑运动的作品之一。新站房由东京帝国大学建筑学科毕业的铁道省官员、建筑家所设计。设计当时，由于邻近汤岛圣堂，虽有他方提出尊重东洋爱好的请求，但伊藤不予採纳，而是在设计上重视与圣桥（192