La calle debe su nombre al cercano priorato de Kilburn y la abadía asociada.