Casi inmediatamente después de publicar el sencillo Polly comenzó a recibir una muy buena recepción por parte de los críticos tanto del Reino Unido como de los Estados Unidos.