Seperti Nasser, Khadafi lebih mendukung pemimpin Palestina Yasser Arafat dan kelompoknya, Fatah, daripada kelompok-kelompok Palestina lainnya yang lebih militan dan berhaluan Marxis. Namun, seiring berjalannya waktu, hubungan antara Khadafi dengan Arafat memburuk. Khadafi menganggapnya terlalu moderat dan ia bahkan menyerukan agar Palestina lebih banyak menggunakan kekerasan. Sebagai gantinya, Khadafi mendukung milisi-milisi seperti Barisan Rakyat untuk Pembebasan Palestina, Barisan Rakyat untuk Pembebasan Palestina - Komando Umum, Barisan Demokratik untuk Pembebasan Palestina, As-Sa'iqa, Barisan Perjuangan Rakyat Palestina, dan Organisasi Abu Nidal. Ia mendanai Organisasi September Hitam yang bertanggung jawab atas peristiwa pembantaian terhadap atlet-atlet Israel pada saat Olimpiade München 1972, bahkan jenazah para militan yang terbunuh selama peristiwa tersebut dibawa ke Libya untuk dimakamkan sebagai pahlawan.