Før ABBA var han forgrunnsfigur i visegruppen Hootenanny Singers (opprinnelig kalt West Bay Singers) som hadde en rekke hits på Svensktoppen. Ulvaeus deltok også på en del konserter med The Hep Stars gjennom sitt vennskap med Benny Andersson.