就任为内阁总理大臣。1894年7月，日本因朝鲜问题而与中国爆发甲午战争，并在威海卫之战中完全歼灭中国的北洋水师，最后迫使中国求和、签订《马关条约》。尽管日本透过《马关条约》获得了台湾、辽东半岛等殖民地以及鉅额赔款，但是条约中割让辽东半岛的决定却遭到俄罗斯、德国与法国等国的强硬反对，最终日本不得不放弃对辽东半岛的永久占领权、与中国签订《辽南条约》让中国赎回辽东半岛，史称三国干涉还辽。此事使日本国内舆论譁然，当时主政的伊藤内阁受到极大谴责，最终伊藤（同时也是《马关条约》日方缔约代表）被迫辞去内阁总理大臣一职