Esta canción posee una estructura muy parecida al del anterior éxito de la banda "You Really Got Me", aunque "All Day and All of the Night" es más compleja en cuanto al "riff" y el solo de guitarra.