Nayi al-Ali nació aproximadamente en 1938 en la aldea palestina de Ash-Shayara (que actualmente es el moshav Ilaniya), entre Tiberíades y Nazaret, en la provincia norteña de Galilea (en la actual Israel). En 1948, durante la primera guerra árabe-israelí, la aldea fue completamente destruida y sus habitantes fueron expulsados del territorio del recién creado Estado de Israel en lo que pasó a conocerse como la Nakba. La familia de Nayi al-Ali se instaló en el campo de refugiados de Ain al-Hilweh, cerca de Sidón, en el vecino Líbano. Allí asistió a la escuela de la Unión de Iglesias Cristianas y, tras graduarse, trabajó en las huertas y campos de Sidón antes de trasladarse a Trípoli, donde asistió a la escuela de formación profesional de los carmelitas durante dos años.