Landkommunen Schmargendorf ble i 1920 utskilt fra Landkreisen Teltow og innlemmet i Stor-Berlin. Der ble Schmargendorf ortsteil i det daværende forvaltningsområdet Wilmersdorf. Fra 2001 ble Bezirk Wilmersdorf innlemmet i Charlottenburg-Wilmersdorf. Flere virksomheter og institusjoner i Schargendorf bærer fremdeles navnet etter Wilmersdorf, som for eksempel Kraftwerk Wilmersdorf og Stadtbad Wilmersdorf.