"Baby 81", su cuarto álbum de estudio, fue lanzado por Island Records el 4 de mayo de 2007 en el Reino Unido y Europa, y el 5 de mayo por RCA en los Estados Unidos, presentando como primer sencillo "Weapon of Choice", con un sonido más cercano a sus primeras producciones y colocando de nuevo a las guitarras eléctricas en primer plano -aunque sin olvidar del todo ciertas tonadas folk de su anterior álbum.