Området har sin opprinnelse i et nonnekloster fra 1100-tallet ved bredden av Kilburn Brook. Stedsnavnet Kilburn ble første gang dokumentert i 1134 som og refererte da til stedet for en celle til en religiøs eneboer ved navn Godwyn. Godwyn hadde bygget sitt eremitage i tiden til kong Henrik I av England, og både hans eneboerhytte og nonneklosteret tok sitt navn fra elven. Stedsnavnet betyr «kirken ved elven», en referanse til den nå rørlagte elven Westbourne.