Imidlertid var det kontakten med skolens komposisjonslærer Mikhail Gnesin som skulle bli utslagsgivende for hans karrierevalg. Med sin grunnleggende interesse for å eksperimentere og improvisere fikk Khatsjaturjan øynene opp for komposisjonsfaget. I 1925 fikk han samtykke til å bli overflyttet til Gnesins komposisjonsklasse. Gnesin ble raskt klar over sin elevs iboende kvaliteter og omtalte ham som en «uslepen diamant». Han oppmuntret Khatsjaturjans trang til å bruke sin kulturelle bakgrunn i komposisjonsarbeidet, og tøylet ham samtidig til å mestre hevdvunne satsteknikker. Fremgangen var strålende. På Gnesins anbefaling søkte han og kom inn på komposisjonsstudiet ved konservatoriet i Moskva i 1929. Etter ett år kom han inn i Nikolaj Mjaskovskijs komposisjonsklasse. Resultatet av disse studiene ble hans første symfoni, det første verk noensinne som kombinerer symfoniske prinsipper med transkaukasisk folkemusikk. Symfonien ble en suksess ved uroppføringen og Khatsjaturjan mottok sitt diplom med æresbevisning.