Evje ble i 1926 ferdig utdannet jurist. Han drev advokatforretning på Notodden 1929 til 1935 og var deretter skatteinspektør i Bærum. Under andre verdenskrig ble Evje arrestert og i 1943 ble han sendt til konsentrasjonsleiren Sachsenhausen, der han ble sittende til krigens slutt.