Jürgens ble født som sønn av tyske foreldre i Klagenfurt. Hans mor Käthe (født Arp; født 9. august 1908) stammet fra Prasdorf i den prøyssiske provinsen Schleswig-Holstein. Hans far Rudolf ble født som sønn av den tyske bankdirektøren Heinrich Bockelmann den 14. desember 1904 i Moskva og flyktet etter utbruddet av første verdenskrig med sine foreldre til det nøytrale Sverige. Etter krigen slo hans foreldre seg ned på Gut Schloss Ottmanach i Kärnten, som Jürgens' bestefar hadde skjenket sine fem sønner. Faren var fra 1938 til 1945 og igjen fra 1954 til 1958 borgermester for Ottmanach. Han døde 2. april 1984. Jürgens' onkel på morssiden var dadaisten Hans Arp. En onkel på farssiden, Werner Bockelmann (SPD), var fra 1957 til 1964 i Frankfurt am Main. En annen onkel, Gert Bockelmann, bodde på Gut Barendorf ved Lüneburg, som senere ble en , og var tidvis borgermester der. Udo Jürgens' onkler Erwin Bockelmann og Jonny Bockelmann var i oljeindustrien. Den broren som er påtenkt i visen «Mein Bruder ist ein Maler», Manfred Bockelmann, var en kjent maler og fotograf.