Pärts musikalske opplæring startet da han var sju år. Fjorten år gammel skrev han sine egne komposisjoner. Han begynte å studere musikk i 1954, arbeidet som lydtekniker i Eesti Raadio og studerte fra 1958 til 1963 komposisjon hos Veljo Tormis og Heino Eller i Tallinn. De tidlige, neoklassisistiske, verkene hans er inspirert av musikken til Sjostakovitsj, Prokofjev og Bartók. Senere eksperimenterte Pärt med Schönbergs tolvtoneteknikk samt serialisme.