ポーランドとリトアニアには、ミルやテルズなどユダヤ人社会に知られたユダヤ教の神学校があり、ヨーロッパ中から留学生が集まっていた。そのなかに祖国がドイツに降伏したため無国籍になった、オランダ出身のナタン・グットヴィルトとレオ・ステルンハイムがいた。グットヴィルトは、オランダ領事ヤン・ズヴァルテンディクに出国の協力を求めた。ズヴァルテンディクは、今日でも有名なオランダ企業フィリップス社のリトアニア支社長だったが、1940年（昭和15年）5月、バルト諸国担当のオランダ大使 L・P・デ・デッケルの要請を受けて、ナチス共鳴者のティルマンス博士に代わりカウナス領事に就任していた。祖国を蹂躙したナチスを強く憎んでいたズヴァルテンディクは、グットヴィルトらの国外脱出に協力を約束。6月末にグットヴィルトは、ワルシャワ大学出身の弁護士でユダヤ難民たちのリーダー格だった、ゾラフ・バルハフティクにこの件のことを相談した。ズヴァルテンディク領事は、「在カウナス・オランダ領事は、本状によって、南米スリナム、キュラソーを初めとするオランダ領への入国はビザを必要とせずと認む」とフランス語で書き込んでくれた。ズヴァルテンディクによる手書きのビザは途中でタイプに替わり、難民全員の数を調達できないと考えたバルハフティクらはオランダ領事印と領事のサインのついたタイプ文書のスタンプを作り、その「偽キュラソー・ビザ」を日本公使館に持ち込んだのである。ドイツ軍が追撃してくる西方に退路を探すのは問題外だった。そして、今度はトルコ政府がビザ発給を拒否するようになった。こうして、トルコ領から直接パレスチナに向かうルートも閉ざされた。もはや逃げ道は、シベリア鉄道を経て極東に向かうルートしか難民たちには残されていなかった。難民たちがカウナスの日本領事館に殺到したのには、こうした背景があった。1940年（昭和15年）7月、ドイツ占領下のポーランドからリトアニアに逃亡してきた多くのユダヤ系難民などが、各国の領事館・大使館からビザを取得しようとしていた。当時リトアニアはソ連軍に占領されており、ソ連が各国に在リトアニア領事館・大使館の閉鎖を求めたため、ユダヤ難民たちは、まだ業務を続けていた日本領事館に名目上の行き先（オランダ領アンティルなど）への通過ビザを求めて殺到した。「忘れもしない1940年7月18日の早朝の事であった」と回想する千畝は、その手記のなかで、あの運命の日の光景をこう描いている。「6時少し前。表通りに面した領事公邸の寝室の窓際が、突然人だかりの喧しい話し声で騒がしくなり、意味の分からぬわめき声は人だかりの人数が増えるためか、次第に高く激しくなってゆく。で、私は急ぎカーテンの端の隙間から外をうかがうに、なんと、これはヨレヨレの服装をした老若男女で、いろいろの人相の人々が、ザッと100人も公邸の鉄柵に寄り掛かって、こちらに向かって何かを訴えている光景が眼に映った」。ロシア語で書かれた先の報告書にあるように、カウナスに領事館が設置された目的は、東欧の情報収集と独ソ戦争の時期の特定にあったため、難民の殺到は想定外の出来事であった。千畝は情報収集の必要上、亡命ポーランド政府の諜報機関を活用しており、「地下活動にたずさわるポーランド軍将校4名、海外の親類の援助を得て来た数家族、合計約15名」などへのビザ発給は予定していたが、それ以外のビザ発給は外務省や参謀本部の了解を得ていなかった。本省と千畝との間のビザ発給をめぐる齟齬は、間近に日独伊三国軍事同盟の締結を控えて、カウナスからの電信を重要視していない本省と、生命の危機が迫る難民たちの切迫した状況を把握していた出先の千畝による理解との温度差に由来している。ユダヤ人迫害の惨状を熟知する千畝は、「発給対象としてはパスポート以外であっても形式に拘泥せず、彼らが提示するもののうち、領事が最適当と認めたもの」を代替案とし、さらに「ソ連横断の日数を二〇日、日本滞在三〇日、計五〇日」を算出し、「何が何でも第三国行きのビザも間に合う」だろうと情状酌量を求める請訓電報を打った。しかし本省からは、行先国の入国許可手続を完了し、旅費および本邦滞在費などの携帯金を有する者にのみに査証を発給せよとの発給条件厳守の指示が繰り返し回電されてきた。杉原夫人が、難民たちの中にいた憔悴する子供の姿に目を留めたとき、「町のかどで、飢えて、息も絶えようとする幼な子の命のために、主にむかって両手をあげよ」という旧約聖書の預言者エレミアの『哀歌』が突然心に浮かんだ。そして、「領事の権限でビザを出すことにする。いいだろう？」という千畝の問いかけに、「あとで、私たちはどうなるか分かりませんけど、そうして上げて下さい」と同意。そこで千畝は、苦悩の末、本省の訓命に反し、「人道上、どうしても拒否できない」という理由で、受給要件を満たしていない者に対しても独断で通過査証を発給した。日本では神戸などの市当局が困っているためこれ以上ビザを発給しないように本省が求めてきたが、「外務省から罷免されるのは避けられないと予期していましたが、自分の人道的感情と人間への愛から、1940年8月31日に列車がカウナスを出発するまでビザを書き続けました」とし、避難民たちの写真を同封したこの報告書のなかで、千畝はビザ発給の理由を説明している。千畝によるビザ発給に対する本省の注意は、以下のようなものであった。「最近貴館査證ノ本邦經由米加行『リスアニア』人中携帶金僅少ノ爲又行先國手續未濟ノ爲本邦上陸ヲ許可スルヲ得ス之カ處置ニ困リ居ル事例アルニ附避難民ト看傲サレ得ベキ者ニ對シテハ行先國ノ入國手續ヲ完了シ居リ且旅費及本邦滯在費等ノ相當ノ携帶金ヲ有スルニアラサレハ通過査證ヲ與ヘサル樣御取計アリタシ」【現代語訳＝最近カウナスの領事館から日本を経由してアメリカ・カナダに行こうとするリトアニア人のなかには、必要なお金を持っていなかったり行先国の手続きが済んでいなかったりなどの理由で、わが国への上陸を許可できずその処置に困ることがあります。避難民と見なしうる者に関しては、行先国の入国手続きを完了し、旅費・滞在費等に相当する携帯金を持っている者でなければビザを与えないよう取りはからって下さい】 — 1940年8月16日付の本省から条件を満たしていない者が居ると注意を受けた電信1995年（平成7年）7月12日、日本外交とユダヤ関連の著者パメラ・サカモトが松岡洋右外相の秘書官だった加瀬俊一に千畝のカウナスからの電信について問い合わせてみても、「ユダヤ問題に関する電信を覚えていなかった。『基本的に、当時は他の切迫した問題がたくさんありましたから』」と加瀬は答えており、東京の本省は条件不備の難民やユダヤ人の問題などまるで眼中になかった。それどころか、日独伊三国軍事同盟を締結も間近な時期に、条件不備の大量難民を日本に送り込んできたことに関して、「貴殿ノ如キ取扱ヲ爲シタル避難民ノ後始末ニ窮シオル實情ナルニ付」（昭和15年9月3日付）と本省は怒りも露わにし、さらに翌年も「『カウナス』本邦領事ノ査證」（2月25日付）と、千畝は名指しで厳しく叱責された。窮状にある避難民たちを救済するために、千畝は外務省を相手に芝居を打った。もし本省からの譴責に真っ向から反論する返電を送れば、本省からの指示を無視したとして、通行査証が無効になるおそれがある。そこで千畝は、本省からビザ発給に関しての条件厳守を指示する返信などまるでなかったかのように、「当國避難中波蘭出身猶太系工業家『レオン、ポラク』五十四歳」（昭和15年8月24日後發）に対するビザ発給の可否を問い合わせる。つまり、米国への入国許可が確実で、十分な携帯金も所持しており、従って本省から受け入られやすい「猶太系工業家」をあえて採り上げるためである。そして千畝は、わざと返信を遅らせてビザ発給条件に関する本省との論争を避け、公使館を閉鎖したあとになって電信第67号（8月1日後發）を本省に送り、行先国の許可や必要な携帯金のない多くの避難民に関しては、必要な手続きは納得させたうえで当方はビザを発給しているとして強弁して、表面上は遵法を装いながら、「外國人入國令」（昭和14年内務省令第6号）の拡大解釈を既成事実化した。一時に多量のビザを手書きして万年筆が折れ、ペンにインクをつけては査証を認める日々が続くと、一日が終わりぐったり疲れて、そのままベッドに倒れ込む状態になり、さらに痛くなって動かなくなった腕を夫人がマッサージしなくてはならない事態にまで陥った。手を痛めた千畝を気遣い、千畝がソ連情報を入手していた、亡命ポーランド政府の情報将校「ペシュ」ことダシュキェヴィチ大尉は、「ゴム印を作って、一部だけを手で書くようにしたらどうです」と提案。オランダ領事館用よりは、やや簡略化された形のゴム印が作られた。ソ連政府や本国から再三の退去命令を受けながら、一か月あまり寝る間も惜しんでビザを書き続けた千畝は、本省からのベルリンへの異動命令が無視できなくなると、領事館内すべての重要書類を焼却し、家族とともに今日まで残る老舗ホテル「メトロポリス」に移った。杉原は領事印を荷物に梱包してしまったため、ホテル内で仮通行書を発行した。そして9月5日、ベルリンへ旅立つ車上の人になっても、杉原は車窓から手渡しされたビザを書き続けた。その間発行されたビザの枚数は、番号が付され記録されているものだけでも2,139枚にのぼった。汽車が走り出し、もうビザを書くことができなくなって、「許して下さい、私にはもう書けない。みなさんのご無事を祈っています」と千畝が頭を下げると、「スギハァラ。私たちはあなたを忘れません。もう一度あなたにお会いしますよ」という叫び声があがった。そして列車と並んで泣きながら走っている人が、千畝たちの姿が見えなくなるまで何度も叫び続けていた。ソ連は1940年7月29日付の共産党中央委員会政治局によるスターリン署名入り決定で、難民の領内通過を認めた。これにはリトアニア併合を円滑化するとともに、難民が利用するシベリア鉄道やホテルの代金で外貨を獲得し、さらに世界に散っていく難民からスパイをリクルートする目的があったと推測されている。なお、千畝同様に上司や本国の命令を無視して「命のビザ」を発行した外交官として、在オーストリア・中華民国領事の何鳳山や、在ボルドー・ポルトガル領事のアリスティデス・デ・ソウザ・メンデスがおり、ともに諸国民の中の正義の人に認定されている。