AutoRip, som endast är tillgänglig i USA, kommer automatiskt att hålla en digital kopia av kvalificerade CD-skivor på en kunds molnlagringskonto.
Kunderna kommer att kunna komma åt musiken via Amazons Cloud Player på webben eller via surfplatta och smartphone-appar.
Amazon har utarbetat en katalog med 50.000 cd-skivor som är berättigade till AutoRip.
Katalogen har sammanställts från de album som har visat sig vara mest populära bland Amazons kunder under de senaste 15 åren.
I listan ingår "Dark Side of the Moon" av Pink Floyd, "Thriller" av Michael Jackson och "21" av Adele.
Alla kunder som har köpt en CD i katalogen från Amazon sedan företaget började handla 1998 kommer att vara berättigade att få en gratis MP3 kopia av den. Amazon sa att det förväntade sig att skapa kopior av miljontals CD-skivor.
"När vi valde dessa 50.000 titlar fokuserade vi på att ha en betydande majoritet av vår fysiska CD försäljning omfattas," säger Steve Boom, chef för digital musik på Amazon i ett uttalande.
Tjänsten kan göra det mycket lättare för människor att bygga upp ett bibliotek för digital musik. Tidigare var de flesta CD-ägare tvungna att rippa låtarna själva för att skapa digitala versioner.
Amazon Cloud Player kan nås en webbläsare, samt på Android-telefoner, iPhones, Kindle Fire tabletter och andra enheter.
Flytten ses allmänt som ett försök att ta marknadsandelar från arch-rival Apples iTunes musikbutik.
Den Cupertino jätten har liknande moln lagringstjänster för musik och leder marknaden med mer än 50% av marknadsandelen, medan Amazon har mindre än 15%. Google erbjuder en liknande tjänst.
Online återförsäljare Amazon har lanserat en tjänst som lagrar gratis digitala versioner av CD-skivor som köpts via sin butik.