Arkhipova ble i 1948 uteksaminert som arkitekt, men studerte senere sang ved Moskvakonservatoriet. Hun debuterte i Sverdlovsk i 1954 og ble fast engasjert ved Bolsjojteateret i 1956. Karrieren var på topp i 1960- og 1970-årene, da hun var en internasjonal stjerne både i det russiske og det italienske repertoaret. På grunn av sin varme stemme, tekniske perfeksjon og store uttrykkskraft, ble hun sammenlignet med Christa Ludwig.