2 февраля 1944 года Иосифа Ивановича назначили командиром 6-й гвардейской истребительной авиационной дивизии 8-й воздушной армии 4-го Украинского фронта, которой он успешно командовал до конца войны. Под его командованием дивизия участвовала в Никопольско-Криворожской операции и Крымской операции. За успешные действия дивизии в ходе освобождения Крыма Иосиф Гейбо был награждён орденом Кутузова 2 степени. В июле — августе 1944 года дивизия Гейбо участвовала в Львовско-Сандомирской и Ясско-Кишиневской операциях. Затем дивизия была выведена в резерв Ставки Верховного Главнокомандующего и после доукомплектования в середине сентября 1944 года вошла в состав 5-й воздушной армии 2-го Украинского фронта. В её составе 6-я гвардейская истребительная дивизия под командованием гвардии полковника И. И. Гейбо участвовала в Дебреценской, Будапештской, Венской и Пражской операциях. К апрелю 1945 года гвардии полковник И. И. Гейбо совершил 177 боевых вылетов и сбил лично 5 самолётов противника. 28 апреля 1945 года за образцовое выполнение заданий командования и проявленные при этом мужество, отвагу и геройство полковнику Иосифу Ивановичу Гейбо было присвоено звание Героя Советского Союза. Война для Иосифа Ивановича закончилась 11 мая 1945 года недалеко от Праги.