Han hadde allerede debutert som dirigent i 1931 ved Moskvas Barneteater, og jobbet som assistent-dirigent ved Staniskavsky og Nemirovich-Danchenko akademiske musikkteater i Moskva. Her debuterte han med den franske operetten, Les Cloches de Corneville av Planquette. Når Khaikin ble utnevnt til sjefsdirigent ved Maly Teateret i Leningrad, fulgte Kondrasjin med han, og dirigerte der fra 1937 til 1941 (eller 1936 til 1943, eller 1938 til 1942). Repertoaret hans var omfangsrikt, og inkluderte Puccinis La fanciulla del West og samtidig verk som Pompadour av Pashchenko. Han fikk tildelt et diplom i 1938 ved unionens første dirigent konkurranse for hans evner og teknikk.