Ved krigsutbruddet var han løytnant i det ridende artilleriet som trakk seg østover fra de tyske styrkene. Karski ble tatt til fange da sovjetiske styrker okkuperte det østlige Polen høsten 1939. Han ga seg ut for å være menig soldat (alle offiserene ble fengslet) og rømte fra sovjetisk fangenskap (Walter Laqueur oppgir at han forkledde seg som sivilist og ble repatriert til tyskokkupert område, Guri Hjeltnes skriver at det var en fangeutveksling.). Karski tok seg over demarkasjonslinjen og ble tatt til fange av tyske styrker. Han rømte fra tysk fangenskap ved å hoppe av et tog i fart (på vei til en arbeidsleir, ifølge Laqueur) og tok seg frem til Warszawa, der han sluttet seg til undergrunnsbevegelsen. Polske offiserer som havnet i sovjetisk fangenskap ble henrettet ved Katyn og Karski kunne selv ha havnet der om han ikke ga seg ut for å være menig soldat.