Trong cuộc Chiến tranh Ả Rập-Israel năm 1948, Arafat rời trường đại học, và cùng với những người Ả Rập khác, tìm cách vào trong Palestine để gia nhập các lực lượng Ả Rập chống lại quân đội Israel. Tuy nhiên, thay vì tham gia vào lực lượng fedayeen Palestine, Arafat chiến đấu với tổ chức Những người anh em Hồi giáo, dù ông không gia nhập lực lượng này. Ông tham gia chiến đấu tại khu vực Gaza (là chiến trường chính của các lực lượng Ai Cập trong cuộc xung đột). Đầu năm 1949, cuộc chiến chuyển sang có lợi cho Israel, và Arafat quay trở lại Cairo vì thiếu hỗ trợ hậu cần.