Începând cu 1925, el a petrecut mult timp încercând să ajute refugiații armeni, victime ale Genocidului Armenilor comis de Imperiul Otoman în timpul Primului Război Mondial și ale altor rele tratamente aplicate ulterior. Scopul lui a fost înființarea unui stat național pentru refugiați, în granițele Armeniei Sovietice. Principalul său asistent în această încercare a fost Vidkun Quisling, viitor colaboraționist nazist și șef al unui guvern-marionetă al Norvegiei în al Doilea Război Mondial. După o vizită în regiune, Nansen a prezentat Adunării un plan modest pentru irigarea a 36.000 de hectare (360 km2) pe care s-ar fi putut așeza 15.000 de refugiați. Planul a eșuat în cele din urmă deoarece, chiar și cu energicul activism al lui Nansen, banii pentru finanțarea acestei scheme nu au venit. În ciuda eșecului, el este în continuare foarte apreciat de poporul armean.