Xenakis wurde in einer in Rumänien lebenden griechischen Familie geboren. 1932 wanderten seine Eltern mit ihm nach Griechenland aus. Er studierte von 1940 bis 1946 Ingenieurwissenschaften in Athen, engagierte sich im Widerstandskampf gegen die Nazi-Besatzung und im anschließenden Bürgerkrieg, erlitt eine schwere Gesichtsverwundung und geriet in Gefangenschaft, wurde zum Tode verurteilt, flüchtete und ging 1947 als politischer Flüchtling nach Paris. Bis zu diesem Zeitpunkt hatte er sich der Musik nur autodidaktisch gewidmet. Danach aber nahm er musikalischen und kompositorischen Unterricht bei Arthur Honegger, Darius Milhaud und Olivier Messiaen. Gefördert hatte ihn Ende der fünfziger Jahre auch der Dirigent Hermann Scherchen, der 1955 den ersten Essay von Xenakis über die Krise der seriellen Musik in seinen „Gravesaner Blättern“ abgedruckt und mehrere der Stücke von Xenakis zur Uraufführung gebracht hat.