Hjelte tok eksamen på arkitektlinjen ved Trondhjems Tekniske Læreanstalt i 1907. I perioden 1911–12 studerte han ved Kungliga Tekniska högskolan i Stockholm. I 1912 opprettet han eget arkitektkontor i Trondheim.