W latach 1972–1982 wraz z żoną Agnethą Fältskog, a także Bennym Anderssonem i Anni-Frid Lyngstad, występował w zespole ABBA, którego był współzałożycielem. W 1974, reprezentując Szwecję z utworem „Waterloo”, wygrali w finale 19. Konkursu Piosenki Eurowizji.