Gdov ble grunnlagt på 1300-tallet, som en utpost for å vokte byen Pskov. I 1431–1434 bygde Pskov en festning der, og restene av den kan ses ennå i dag. Byen ble angrepet ved flere anledninger av svensker og polakker (som under den nordiske tjuefemårskrigen og Ingermanlandskrigen), men ble endelig returnert til Russland i 1617.