Depois que ele deixou o Ajax em 1973, foi convidado pela federação francesa de futebol para assumir a seleção principal. Ele desenvolveu as jovens gerações de talentos franceses. Jornalistas da "França" perguntaram-lhe quanto tempo demoraria para tornar a equipe da França uma ótima equipe, ele respondeu que ""com boas estruturas, em oito anos ou dez anos, podemos fazer uma boa seleção nacional"." Michel Hidalgo, seu sucessor, aproveitou esse trabalho e continuou a liderar essa geração para o título do Campeonato Europeu de Futebol de 1984. Kovács continua sendo o único treinador estrangeiro a treinar a seleção francesa.