Sommeren 1942 ble han kontaktet av jødiske ledere fra Warszawa-ghettoen og de fortalte at nazistene hadde satt i gang massedrap på jødene. Karski var på vei til eksilregjeringen som da var i London, og de jødiske lederne bønnfalt ham om å melde fra til de allierte lederne om hva som foregikk. Karski, forkledd som jøde, ble blant annet smuglet inn i ghettoen i Warszawa for å se på forholdene. I ghettoen var over mennesker stuet sammen og Warszawa var også før krigen den største jødiske byen i Europa. Senere beskrev han forholdene i ghettoen som «fryktelige ting». Leon Feiner, som eskorterte Karski i ghettoen, mumlet hele tiden «husk dette, husk dette».