По повратку у Југославију, октобра 1944. је боравио је ослобођеном Банату. Након ослобођења Београда, 23. октобра је из Петровграда отишао у Панчево, где се укрцао на један шлеп и кренуо ка Београду. На Дунаву, у близини Вишњице, шлеп је наишао на заосталу немачку мину, након чега је потонуо. Том приликом, од експлозије и утапања страдало је укупно седморо лица, међу којима и Иван Милутиновић. Првобитно је био сахрањен у Алеји народних хероја на Новом гробљу, а 1948. године је пренет и сахрањен у Гробницу народних хероја на Калемегдану.