Oldendorf omtales i skriftlige kilder fra 900-tallet. Kommunen fikk bystatus i 1719. I 1905 ble den av postverket og jernbaneverket omdøpt til Preußisch Oldendorf for å skille den fra andre steder med samme navn. Byens nåværende territorium ble opprettet gjennom en kommunalreform den 1. januar 1973.