Иван Антонович Гелда родился 28 июля 1897 года в белорусской семье в городе Белосток Российская империя. Имел брата Константина Гелду. В 17 лет в 1914 году, завысив свой возраст на призывном пункте, ушёл воевать на фронт Первой мировой войны. Дослужился до младшего офицерского звания. После прихода к власти в России большевиков в октябре 1917 года Гелда присоединился к белому движению и воевал в составе Северо-западной армии под командованием генерала Николая Юденича. Участвовал в боях в Эстонии и Петраграде. В начале декабря 1919 года перешёл в корпус под командованием Станислава Булак-Балаховича. В марте 1920 года участник сражения в Мозыре. После завершения войн остался на территории Западной Белоруссии.