Andersen er utdannet fra Oslo musikkonservatorium (1938–39) og Academia Chigiana i Siena i Italia (1947). Han debuterte som fiolinist i 1939. Han var ansatt i Filharmonisk selskap i Oslo fra 1940 til 1945. Deretter var han kapellmester for Stavanger byorkester og Stavangerensemblet (NRKs radioensemble i Stavanger) fra 1945 til 1964. I 1964 ble han kunstnerisk leder og førstedirigent ved Musikkselskabet Harmonien i Bergen, en stilling han hadde til 1985. Fra 1970 til 1976 var han også sjefdirigent for Islands symfoniorkester.