1937年（昭和12年）にはフィンランドの在ヘルシンキ日本公使館に赴任する。ちなみに千畝は当初、念願であった在モスクワ大使館に赴任する予定であったが、ソ連側が反革命的な白系ロシア人との親交を理由に、ペルソナ・ノン・グラータを発動して千畝の赴任を拒絶した。当時の『東京朝日新聞』（1937年3月10日付）は、「前夫人が白系露人だったと言ふに理解される」と報じた。日本の外務省はソ連への抗議を続けるとともに、千畝に対する事情聴取も行い、それは『杉原通訳官ノ白系露人接触事情』という調書にまとめられた。そのなかで千畝は、「白系露人と政治的に接触したことはなく、むしろ諜報関係で情報収集のためにあえて赤系のソ連人と接触していた、そのため満洲外交部に移籍してからは、共産主義者の嫌疑をかけられ迷惑した」などと述べている。日本政府は、ライビット駐日ソ連臨時大使を呼び出して、杉原の入国拒否の理由を再三尋ね、ソ連に敵愾心を持っていた白系ロシア人との親密な関係を指摘されたが、それは具体的な証拠のないものだった。北満鉄道譲渡交渉を控えた千畝の事前調査は、それがどのような経路で行われたのかソ連側も把握できないほど周到なものだった。ソ連が最後まで入国自体を認めなかったために、千畝は行先を近隣のヘルシンキへと変更された。バルト三国を初めとしたソ連周辺国に、千畝を含む6名ものロシア問題の専門家が同時に辞令を発令されたのは、ノモンハン事件における手痛い敗北の結果、対ソ諜報が喫緊の課題になったためであるという。1938年（昭和13年）3月4日、杉村陽太郎・駐仏日本大使は、パリの日本大使館から、ヘルシンキに着任している「杉原通譯官ヲ至急當館ニ轉任セシメラレ」たしと直訴する、広田弘毅外務大臣への極秘電信を送った。千畝を自分の手元におきたかった杉村は、電信に「タタ發令ハ官報省報職員録ニハ一切發表セサルコト」と付記したが、広田外相は「遺憾ナカラ詮議困難ナリ」とこれを拒絶し、千畝の引き抜き作戦は失敗に帰した。というのも、千畝には、独ソ間で日本の国家存亡に係わる重大任務が待ち受けていたからである。1939年（昭和14年）にはリトアニアの在カウナス日本領事館領事代理となり、リトアニアで生活を開始した。8月28日にカウナスに着任する。着任直後の9月1日にドイツがポーランド西部に侵攻し、第二次世界大戦が始まる。独ソ不可侵条約付属秘密議定書に基づき、9月17日にソ連がポーランド東部への侵攻を開始する。10月10日、リトアニア政府は、軍事基地建設と部隊の駐留を認めることを要求したソ連の最後通牒を受諾する。1940年6月15日、ソビエト軍がリトアニアに進駐する。杉原千畝のカウナスにおける任務の具体的内容については、1967年（昭和42年）に書かれたロシア語の書簡の冒頭で、以下のように述べられている。カウナスは、ソ連邦に併合される以前のリトアニア共和国における臨時の首都でした。外務省の命令で、1939年の秋、私はそこに最初の日本領事館を開設しました。リガには日本の大使館がありましたが、カウナス公使館は外務省の直接の命令系統にあり、リガの大使館とは関係がありませんでした。ご指摘の通り、リガには大鷹正次郎氏がおり、カウナスは私一人でした。周知のように、第二次世界大戦の数年前、参謀本部に属する若手将校の間に狂信的な運動があり、ファシストのドイツと親密な関係を取り結ぼうとしていました。この運動の指導者の一人が大島浩・駐独大使であり、大使は日本軍の陸軍中将でした。大島中将は、日独伊三国軍事同盟の立役者であり、近い将来におけるドイツによる対ソ攻撃についてヒトラーから警告を受けていました。しかし、ヒトラーの言明に全幅の信頼を寄せることが出来なかったので、大島中将は、ドイツ軍が本当にソ連を攻撃するつもりかどうかの確証をつかみたいと思っていました。日本の参謀本部は、ドイツ軍による西方からのソ連攻撃に対して並々ならぬ関心を持っていました。それは、関東軍、すなわち満洲に駐留する精鋭部隊をソ満国境から可及的速やかに南太平洋諸島に転進させたかったからです。ドイツ軍による攻撃の日時を迅速かつ正確に特定することが、公使たる小官の主要な任務であったのです。それで私は、何故参謀本部が外務省に対してカウナス公使館の開設を執拗に要請したのか合点がいったわけです。日本人が誰もいないカウナスに日本領事として赴任し、会話や噂などをとらえて、リトアニアとドイツとの国境地帯から入ってくるドイツ軍による対ソ攻撃の準備と部隊の集結などに関するあらゆる情報を、外務省ではなく参謀本部に報告することが自分の役割であることを悟ったのです。 — 1967年に書かれた千畝による露文書簡の冒頭部分日本人がほとんどいないカウナスに千畝が赴任してきたことに驚いて興味を持った地元紙『セクマディエニス』は早速領事館に取材を申し込み、「日出ずる国からの来客」「日本はどのような国か」という見出しで特集を組んだ。杉原一家の写真つきで紹介された特集記事で、「日本ではそれぞれの家に風呂があり、日本人は毎日風呂に入るというのは本当ですか」「日本の女性の地位はどうでしょうか」「女性は社会生活に参画していますか」といった質問に千畝は一つひとつ生真面目に答えた。さらに、日本における売春の実態などにも言及したほか、日本とリトアニアの貿易発展の可能性も示唆し、リトアニアの習慣や食事に対する自身の見解も述べた。これにより、ステポナス・カイリースの『日本論』（全3巻）以来のちょっとした日本ブームを引き起こした。千畝が欧州に派遣された1938年（昭和13年）、当時のドイツのユダヤ人迫害政策によって極東に向かう避難民が増えていることに懸念を示す山路章ウィーン総領事（初代）は、ユダヤ難民が日本に向かった場合の方針を照会する請訓電報を送り、同年10月7日近衛文麿外務大臣から在外公館への極秘の訓令が回電された。千畝がカウナスに臨時の領事館を開設する直前のことである。その訓令「猶太避難民ノ入國ニ關スル件」は、以下のようなものであった。「貴殿第三九號ニ關シ、陸海軍及内務各省ト協議ノ結果、獨逸及伊太利ニ於テ排斥ヲ受ケ外國ニ避難スル者ヲ我國ニ許容スルコトハ、大局上面白カラサルノミナラス現在事變下ノ我國ニ於テハ是等避難民ヲ收容スルノ餘地ナキ實情ナルニ付、今後ハ此ノ種避難民（外部ニ對シテハ單ニ『避難民』ノ名義トスルコト、實際ハ猶太人避難民ヲ意味ス）ノ本邦内地竝ニ各殖民地ヘノ入國ハ好マシカラス（但シ、通過ハ此ノ限ニ在ラス）トノコトニ意見ノ一致ヲ見タ」【現代語訳＝貴殿（山路総領事）が発信した第39号（請訓電報）に関し、陸海軍及び内務各省と協議の結果、「ドイツおよびイタリアにおいて排斥を受け、外国に避難する者をわが国に受け入れることは、大局上よろしくないのみならず、現在事変（日中戦争）下にあるわが国では、これらの避難民を収容する余地はないのが実情なので、今後はこの種の避難民（外部に対しては単に『避難民』の名義とすること。実際はユダヤ人避難民を意味する。）のわが国内地（本土）ならびに各植民地への入国は好ましくない。（ただし、通過はこの限りでない。）」とすることで意見が一致した。】 — 近衛外務大臣から在外公館長への訓令「猶太避難民ノ入國ニ關スル件」（昭和13年10月7日付）上掲の訓命では、ユダヤ人差別が外部に露見すると海外から非難を受けることは必至であるため、「外部ニ對シテハ單ニ『避難民』ノ名義トスルコト」と明記され、わざわざ内訓を外部に公表しないことを念を押した。ユダヤ避難民が日本に来ることを断念するように仕向けるよう指示した機密命令であり、日本政府は、いわゆる「五相会議」決定のユダヤ人保護案を表面上示しながら、裏ではユダヤ人差別を指示する二重外交を展開していたのである。