Aunque Hal Espen y David Hiltbrand, de "People", señalaron que «Bye Bye Baby» puede ser un éxito, en esa canción se puede encontrar poco del dominio manipulador y provocativo que hace a Madonna tan fascinante.