Иосиф Палиев родился 27 декабря 1915 года в селе Кияново (ныне — не существует, находилось на территории современного Белокуракинского района Луганской области Украины). Рано остался без родителей, рос в приёмной семье в Енакиево. В 1935 году Палиев окончил Донецкий техникум общественного питания, после чего работал шеф-поваром в ресторане. В 1936—1939 годах проходил службу в Рабоче-крестьянской Красной Армии, участвовал в боях на озере Хасан. Демобилизовавшись, продолжал работать в ресторане. В 1940 году Палиев окончил курсы усовершенствования командного состава запаса. Участвовал в боях Великой Отечественной войны, был тяжело ранен и уволен в запас по инвалидности.