Etter skolegangen flyttet Nils til Stockholm for å jobbe som en profesjonell trombonist. Han dro snart på turné med den svenske popstjernen Björn Skifs. Thad Jones inviterte Landgren i 1981 til å bli med som førstetrombonist i hans nye storbandprosjekt, «Ball of Fire». Siden den gang har Nils Landgren vært like innom de fleste musikkstiler; jazz, rock, soul, hiphop og storband-sesjoner. Han har spilt med ABBA, The Crusaders, Eddie Harris, Bernard Purdie, Wyclef Jean og Herbie Hancock.