Stedet nevnes første gang i skriftlige kilder i et dokument fra 1265 utstedt av Otto III av Brandenburg og senere i Karl IV's landbok. St. Andreaskirken fra 1100-tallet er byens vartegn. Da elven Bäke ble omlagt til Teltowkanalen, utviklet Teltow seg fra å være en landsby befolket av bønder til å bli et handelssted. I DDR-tiden var Teltow senter for elektronisk industri.