Han var innvalgt på Lagtinget fra Suðurstreymoy 1990–1998, valgt for Sambandsflokkurin. Arge var formann i Lagtingets finanskomité 1994–1995, men måtte fratre posten etter å ha brutt med Sambandsflokkurin over Joensen-regjeringens økonomiske politikk i november 1995 og ble sittende som partiløs. I februar 1998 meldte han seg inn i Fólkaflokkurin og ble 1. varamann til Lagtinget for perioden 1998–2002. Arge var næringsminister i Anfinn Kallsbergs første regjering 1998–2000, deretter møtende varamann på Lagtinget for Bjarni Djurholm og formann i Lagtingets finanskomité 2000–2002.