Navnet stammer fra hovedkvarterets opprinnelige beliggenhet i en gate ved Whitehall kalt Great Scotland Yard. Hovedkvarteret flyttet i 1890 til Victoria Embankment og i 1967 til sin nåværende beliggenhet, på Broadway bak St. James's Park undergrunnsstasjon, sør for St. James's Park.