Barndommen var preget av Nazi-Tysklands okkupasjon av Hellas under andre verdenskrig og den påfølgende fire år lange borgerkrigen i landet. Faren ble tidlig med i motstandsbevegelsen. Tolv år gammel startet Mouskouri og søsteren med privat sangundervisning. Jenny var den mest tallentfulle av de to, men hun var ikke like interessert i musikk som sin yngre søster. Nana Mouskouri slet med sangen på grunn av en fysisk defekt med stemmebåndene: hun hadde bare ett stemmebånd som virket, mens en normalt har to – en sjelden tilstand som ga henne den litt hese og karakteristiske stemmen. Hun lyttet mye og ofte på radio, som gjerne sendte amerikansk jazz (Frank Sinatra, Ella Fitzgerald, Billie Holiday med flere) og fransk chanson-musikk (Edith Piaf med flere). Disse to sjangrene samt gresk folkemusikk skulle siden prege hennes nær 50-årige karriere som artist.