Den eldste skriftlige kilde hvor Schmargendorf er nevnt, er fra 1354. Landsbykirken Schmargendorf ble oppført på denne tiden. Omkring det 15. århundret tilhørte området familien .