Die erste schriftliche Erwähnung von Książ Wielki stammt aus dem Jahr 1120. Im elften und zwölften Jahrhundert soll es als eine hölzerne Wehranlage existiert haben, die mehrfach zerstört wurde. Am Ende des vierzehnten Jahrhunderts erhielt Książ Wielki Stadtrecht nach Magdeburger Recht. 1556 wurde im Rahmen der Reformation eine Synode abgehalten die den Zusammenschluss der polnischen und litauischen Calvinisten zum Thema hatte. 1595 wurde das Schloss errichtet. Das Dorf wurde zweimal zu großen Teilen zerstört, 1655 von schwedischen Truppen im Rahmen des Zweiten Nordischen Kriegs und 1702 bei einem Hochwasser. Nach den Januaraufstand verlor Książ Wielki 1869 sein Stadtrecht. Am 6. September 1939 wurde das Dorf von deutschen Truppen besetzt und am 14. Januar 1944 von der Roten Armee eingenommen.