I 1922 bestemte han seg for å søke opptak ved Gnesin musikkskole. Han kom ikke inn på sitt førsteønske, klaver, men ble tilbudt en plass i celloklassen til Jevgenija F. Gnesina. Utfra det faktum at Khatsjaturjan ikke hadde formell musikalsk trening, var dette en høyst uvanlig avgjørelse. Han takket ja til plassen og skulle med tiden vise seg å bli en habil utøver på instrumentet.