Som de fleste andre racerførere startet Kvjat sin karriere i gokart, hvor han kjørte i Russland og Italia. I 2009 kom han på tredjeplass i det europeiske mesterskapet i KF3-kategorien, og nummer to i WSK International Series.