La escritura y composición de "By the Way" comenzó inmediatamente tras la culminación del tour mundial de "Californication", en la primavera de 2001.