Yasser Arafat
mengirimkan permohonan untuk mendapat visa ke Kuwait (saat itu masih berstatus protektorat Inggris), dan dikabulkan karena latar belakangnya sebagai seorang insinyur teknik sipil. Di sana dia bersahabat dengan dua orang Palestina, Salah Khalaf ("Abu Iyad") dan Khalil al-Wazir ("Abu Jihad"). Keduanya merupakan anggota Ikhwanul Muslimin cabang Mesir. Arafat telah bertemu dengan Abu
Iyad sebelumnya ketika masih kuliah, dan dengan Abu Jihad di Gaza. Keduanya kelak menjadi tangan Arafat dalam dunia politik. Abu Iyad berangkat bersama Arafat ke Kuwait pada akhir 1960; Abu Jihad, seorang guru, telah tinggal di sana sejak 1959. Setelah tiba di Kuwait, Abu Iyad membantu Arafat untuk memperoleh pekerjaan sementara sebagai seorang guru sekolah.
Sementara Arafat mulai bergaul dengan para pengungsi Palestina (sebagian telah pernah dia temui saat tinggal di Kairo), dia dan lainnya secara bertahap mendirikan sebuah pergerakan bernama Fatah. Tanggal pasti pendirian Fatah tidak diketahui. Pada 1959, keberadaan kelompok ini diliput oleh sebuah majalah nasionalis Palestina, Filastununa Nida al-Hayat (Palestina Kami,
Panggilan Hidup), yang ditulis dan diedit oleh Abu Jihad. FaTaH adalah akronim terbalik dari nama Arab Harakat al-Tahrir al-Watani al-Filastini, yang berarti "Pergerakan Pembebasan Nasional Palestina". "Fatah" juga merupakan kata yang digunakan pada masa-masa kekhalifahan Islam untuk "penaklukan."
Fatah bertujuan untuk membebaskan Palestina lewat perjuangan bersenjata yang dilakukan oleh orang-orang Palestina sendiri. Ini membuatnya berbeda dengan organisasi politik dan gerilya Palestina lainnya, yang sebagian besar meletakkan harapan pada sebuah perjuangan bersama oleh bangsa Arab. Di bawah pimpinan Arafat, Fatah tidak pernah mengikuti ideologi negara-negara Arab pada
umumnya saat itu. Ini berbeda dengan mayoritas faksi lainnya, yang sering menjadi boneka negara lain seperti Mesir, Irak, Arab Saudi, Suriah, dan lainnya.
Sesuai ideologinya, Arafat kerap menolak bantuan yang diberikan oleh negara-negara Arab lain, untuk menjaga independensi Fatah dari campur tangan mereka. Walau bagaimanapun, Arafat tidak ingin mengabaikan mereka, dan berusaha untuk mendapatkan dukungan dengan menghindari persekutuan dengan faksi-faksi berideologi beda. Meskipun begitu, Arafat bekerja keras di Kuwait, untuk mendirikan basis finansial
Fatah pada masa depan dengan mengumpulkan sumbangan dari orang-orang kaya Palestina yang bekerja di sana dan di negara-negara Teluk lainnya, seperti Qatar (dimana dia bertemu Mahmoud Abbas pada 1961). Pengusaha dan karyawan-karyawan perusahaan minyak ini menyumbang dengan tulus untuk Fatah, dan Arafat meneruskan usahanya mengumpulkan dana ke negara lain seperti Libya dan Suriah.
Pada 1962, Arafat dan sahabat-sahabat dekatnya pindah ke Suriah (negara yang berbatasan darat dengan Israel), yang baru saja melepaskan diri dari persatuan dengan Mesir pimpinan Nasser. Fatah telah mempunyai kira-kira tiga ribu anggota pada saat itu, tetapi tidak ada seorangpun yang merupakan petempur. Di Suriah, dia berusaha untuk merekrut anggota dengan
menawarkan penghasilan tinggi bagi mereka, untuk mewujudkan cita-cita perjuangan bersenjatanya ke Israel. Kekuatan Fatah meningkat lagi setelah Arafat menawarkan penghasilan yang lebih tinggi kepada para rekrutan baru daripada anggota Tentara Pembebasan Palestina, sayap militer Organisasi Pembebasan Palestina, yang didirikan oleh Liga Arab pada tahun 1964. Pada 31 Desember, satu regu dari
al-Assifa, sayap militer asli Fatah, berusaha untuk menginfiltrasi ke wilayah Israel, tetapi mereka berhasil dihalangi dan ditangkap oleh pasukan keamanan Lebanon. Beberapa serangan dari pasukan bersenjata Fatah yang tidak terlatih dan kekurangan persenjataan menyusul infiltrasi ini. Beberapa percobaan berhasil, tetapi yang lain gagal dalam misi mereka. Arafat kerap memimpin serangan-serangan ini secara langsung.
Arafat ditahan di penjara Mezzeh di Suriah ketika seorang perwira Angkatan Darat Suriah asal Palestina, Yusef Urabi, terbunuh. Urabi telah memimpin sebuah pertemuan untuk meredakan ketegangan antara Arafat dan pemimpin Front Pembebasan Palestina Ahmed Jibril, namun keduanya menolak hadir dan mengirim perwakilan masing-masing. Terdapat perselisihan apakah Urabi terbunuh pada saat pertemuan atau
setelahnya. Atas perintah Menteri Pertahanan Hafez al-Assad, seorang kawan dekat Urabi, Arafat ditahan, dinyatakan bersalah oleh tiga orang juri dan dijatuhi hukuman mati. Tetapi, dia dan para koleganya diberikan pengampunan oleh Presiden Salah Jadid sesaat setelah vonis tersebut. Insiden ini membuat hubungan Assad dan Arafat tidak harmonis, yang kelak mengemuka setelah Assad menjadi Presiden Suriah.
Pada 13 November 1966, Israel melancarkan serangan atas kota as-Samu di wilayah Tepi Barat yang diperintah oleh Yordania, sebagai pembalasan untuk Fatah akibat bom-bom tepi jalan yang mereka pasang berhasil menewaskan tiga orang anggota pasukan keamanan Israel di dekat sebelah selatan perbatasan Garis Hijau. Beberapa anggota pasukan keamanan Yordania tewas dan 125 rumah dihancurkan. Serangan ini menjadi salah satu penyebab pecahnya Perang Enam Hari pada 1967.
Perang Enam Hari dimulai setelah Israel melancarkan serangan udara atas Angkatan Udara Mesir pada 5 Juni 1967. Pertempuran berakhir dengan kekalahan di pihak Arab dan pendudukan Israel atas beberapa wilayah yang sebelumnya menjadi wilayah negara Arab, termasuk Tepi Barat dan Jalur Gaza. Meskipun Nasser dan sekutu-sekutu Arabnya terkalahkan, Arafat dan Fatah dapat mengklaim kemenangan, terutama karena mayoritas rakyat
Palestina yang saat itu masih berfaksi dan bersimpati kepada negara-negara Arab tertentu, mulai memilih solusi "Palestina oleh Palestina" yang ditawarkan oleh Arafat. Banyak faksi politik utama Palestina, seperti Pergerakan Nasionalis Arab pimpinan George Habash, Komite Tinggi Arab pimpinan Mohammad Amin al-Husayni, Front Pembebasan Islam dan beberapa organisasi yang didukung oleh Suriah,
nyaris bubar setelah kekalahan negara yang mereka dukung. Sekitar seminggu setelah kekalahan itu, Arafat menyamar melintasi Sungai Yordan dan memasuki Tepi Barat, dimana dia mendirikan pusat perekrutan anggota baru di Hebron, sekitar Yerusalem, dan juga Nablus, dan mulai menarik simpati pejuang dan penyumbang pada saat yang sama.
Pada waktu yang sama, Nasser menghubungi Arafat lewat mantan penasihatnya Mohamed Hassanein Heikal, dan Nasser mendeklarasikan Arafat sebagai "pemimpin bangsa Palestina." Pada Desember 1967, Ahmad Shukeiri mengundurkan diri dari posisinya sebagai Ketua Organisasi Pembebasan Palestina, dan Yahya Hammuda menggantikannya. Hammuda mengajak Arafat untuk bergabung dengan organisasi tersebut, dan Fatah
mendapat 33 dari 105 kursi di Komite Eksekutif, sementara 57 kursi sisanya dialokasikan untuk beberapa faksi perjuangan lainnya.
Sepanjang 1968, Fatah dan kelompok bersenjata Palestina lainnya menjadi sasaran operasi tentara Israel di desa Karameh di Yordania, dimana terdapat markas Fatah dan sebuah kamp pengungsi Palestina berukuran sedang. Nama desa tersebut berarti "kehormatan", yang menaikkan simbolismenya di mata bangsa Arab, terutama setelah kekalahan bersama mereka pada 1967. Operasi ini merupakan pembalasan dari
serangan-serangan kelompok Palestina, termasuk serangan roket dari Fatah dan milisi lainnya yang menyasar Tepi Barat. Menurut Said Aburish, pemerintah Yordania dan beberapa komandan Fatah memberitahu Arafat bahwa Israel sedang menyiapkan operasi militer besar-besaran untuk menyerang desa itu. Kabar ini membuat grup fedayeen, seperti Front Populer Pembebasan Palestina (PFLP) pimpinan George Habash dan