Là một kỹ thuật viên quân sự hạng 1, ông bắt đầu các hoạt động của mình với Hạm đội Biển Đen và sớm được bổ nhiệm làm kỹ sư trưởng cho các công trình xây dựng. Cuộc Chiến tranh Vệ quốc vĩ đại đã dẫn đến việc ông được giao dẫn đầu một đội công binh nhỏ xây dựng một số vị trí pháo binh và đặt các khẩu đội pháo lên chúng trong điều kiện pháo kích nặng nề nhất và không thể. Các khẩu pháo 152 mm sẽ đóng một vai trò lớn trong Trận Perekop, một phần của Cuộc tấn công Krym. Nhờ hoàn thành nhiệm vụ này, Gelovani đã nhận được giải thưởng cá nhân và đáng nhớ nhất đầu tiên của mình, Huân chương Sao Đỏ. Sau đó, ông còn nhận được nhiều huân huy chương khác.