St Kilda fikk navnet sitt etter skonnerten «Lady of St Kilda» eid av Thomas Dyke Acland, som lå til anker der i 1841, av Charles La Trobe. Acland street i bydelen er oppkalt etter Acland.