I språkdebatten var Vinje samnorsktilhenger på 1960- og 1970-tallet, men ble på 1980- og 1990-tallet i større grad talsmann for usus-prinsippet. Han betegner seg i dag riksmålsmann og bidrar med artikler i Riksmålsforbundets tidsskrift . I 1999 skrev Finn-Erik Vinje i en kronikk i at «når riksmålsnormen nå har flyttet inn i bokmålet, samtidig som bokmålet kvitter seg med de mest outrerte samnorskformer, burde det være på tide å gi riksmålet tilbake dets gamle navn. Bokmål er ikke noe navn, det er en sjikane». I 2014 vedtok Stortinget en ny grunnlovstekst utarbeidet av Vinje, noe som innebar en språklig fornyelse av teksten.