Bye var av yrke bankbud. Han var aktiv som skiløper helt til han var i midten av 60-årene. Han ga premiesamlingen sin til Trondhjems Skiklub, som oppbevarte den på Skistua i Bymarka, men premiene ble ødelagt da Skistua brant ned natt til 1. januar 1947. Gustav Byes vei på Byåsen i Trondheim er siden 1955 oppkalt etter ham. Trondhjem Rotary Klub satte i 2003 opp en minneplate utenfor inngangen til Trøndelag Folkemuseum på Sverresborg i Trondheim, til minne om Gustav Bye og hans «verdensrekord»-hopp i 1892.