Nato in Egitto da genitori di origini greche, tornò nel paese di origine dopo la perdita di tutti gli averi familiari, in seguito alla Crisi di Suez del 1956. In gioventù Roussos aveva appreso il solfeggio e aveva imparato a suonare la chitarra e la tromba, divenendo inoltre cantante solista nel coro della chiesa ortodossa di Alessandria d'Egitto.