Gelhausen begann 1947 mit dem Radsport im Verein VC Roodt-sur-Syre, wechselte 1948 zum UC Grevenmacher. Er wurde 1952 Vize-Meister im Straßenrennen der Amateure. 1953 wurde sein erfolgreichstes Jahr. Er siegte in der Österreich-Rundfahrt und wurde beim Sieg von Riccardo Filippi Siebenter im Amateurrennen der UCI-Straßen-Weltmeisterschaften.