Benteng ini didirikan oleh Ivan III pada musim panas tahun 1492 dengan maksud untuk menegaskan kembali hak Moskwa untuk memperoleh akses ke Laut Baltik dan sebagai pertahanan dari Ordo Livonia yang sebelumnya sudah membangun Kastil Hermann di seberang benteng ini. Benteng Ivangorod kemudian secara bertahap diperluas dan diperkuat. Benteng Ivangorod sempat dikendalikan oleh Swedia seusai Perang Livonia pada tahun 1583 dan lalu beberapa kali berganti penguasa akibat perang dan perubahan perbatasan hingga akhirnya kembali dikuasai oleh Rusia.