8 июля 2002 года, после отставки Олега Романцева с поста тренера сборной России, вызванной провалом на чемпионате мира в Корее и Японии, Газзаев тайным голосованием Исполкома РФС (17 человек из 24 поддержали) был назначен главным тренером сборной России, оставаясь при этом на посту тренера ЦСКА. На тот момент «армейцы» лидировали в чемпионате страны, борясь против московского «Локомотива», а также успели выиграть весной свой первый Кубок России (победа над «Зенитом» 2:0): Евгений Гинер параллельно разрабатывал программу, согласно которой, в течение трёх лет ЦСКА должен был выйти на европейский уровень, а Газзаев проводил психологическую и тактическую работу с игроками, вынуждая их пересмотреть взгляды на матчи и на турниры, помогая им морально оправиться после неудач и внушая необходимость ставить задачи-максимум. Кандидатуру Газзаева на пост главного тренера сборной России предложил президент РФС Вячеслав Колосков: хотя ходили слухи о том, что сборную может впервые в истории возглавить иностранный специалист, Колосков заранее связался с Газзаевым, находившимся на сборах с клубом в Швейцарии, и убедил его возглавить сборную. Контракт был заключён, по словам РФС, «минимум на четыре года»: Газзаев рассчитывал подготовить сборную не только к чемпионату Европы 2004 года, но и к чемпионату мира 2006 года. Сам Колосков изначально утверждал, что о совмещении постов тренера ЦСКА и тренера сборной России речи не шло.