Han startet karrieren som pianist i Stavanger-bandene Nurk Twins og Staccato før han i 1974 var med å starte rockebandet Stavangerensemblet. De to første årene spilte bandet eksperimentelt instrumentalmusikk innen jazz og rock, men la etterhvert om til rock på Stavanger-dialekt og ble det ledende bandet innen Stavangerbølgen på begynnelsen av 80-tallet. Larsen var med på bandets debutalbum som ble gitt ut i begynnelsen av 1980 før han sluttet ved årsskriftet 1980–1981. Han ble deretter med i Smalhans som eksisterte i perioden 1981–1983 og bestod av medlemmer fra det da oppløste Nurk Twins.