Mazura ble født i Salzburg, sønn av Maria og Franz Mazura, en skatteinspektør. Han studerte først maskinteknikk. Han ble utarbeidet i 1942. Etter andre verdenskrig studerte han hos Frederick Husler ved Hochschule für Musik Detmold, og jobbet under studiene som skuespiller ved Landestheater Detmold. Han debuterte på operascenen som bass ved Staatstheater Kassel i 1949. Deretter jobbet han ved Staatstheater Mainz, Staatstheater Braunschweig og Nationaltheater Mannheim, hvor han var medlem av ensemblet fra 1958 til 1963. I Mannheim ble han tildelt flere barytonroller. Han minnet tiden der som spesielt hyggelig, sang et repertoar på 60 roller og likte samarbeidet med kolleger. Han var medlem av Deutsche Oper Berlin fra 1963.