Según Oliver Trager, «Changing of the Guards» ha sido criticada como una "canción en la que Dylan parodia obsesivamente su estilo de canciones-himno de forma cínica y fallida".