Dylan e John Lennon si conobbero nel 1964 e i due si incrociarono diverse volte da allora e fino all'omicidio di Lennon nel 1980. Si ritiene, tuttavia, che la genesi specifica di "Roll On John" derivi da un tour in pullman fatto da Dylan nel 2009 presso la casa natale di Lennon a Liverpool. Dylan stesso menzionò la visita nel corso di un'intervista concessa a "Rolling Stone" nel 2012 per promuovere "Tempest". Nella stessa intervista, Dylan ricordò anche di avere cominciato a provare il brano con la sua band durante dei soundcheck alla fine del 2011.