Po odbyciu kary Gjeloshi wyjechał do Pragi. W 1939, już po inwazji włoskiej powrócił do kraju. Brał udział w wojnie grecko-włoskiej. W 1941 po połączeniu Kosowa z Albanią, wstąpił do lokalnej milicji pro-włoskiej i otrzymał awans na majora. W 1942 był sędzią w sądzie wojskowym, w stopniu pułkownika. W kwietniu 1943 został zastrzelony w Tiranie przez Myslyma Ketę, na polecenie Komitetu Centralnego Komunistycznej Partii Albanii.