Подавляющая часть тренерской карьеры Романцева была связана с московским «Спартаком», главным тренером которого он проработал с 1989 по 2003 годы (с учётом перерыва в 1996 году), выиграв с ним восемь чемпионатов России и один чемпионат СССР, благодаря чему стал наиболее титулованным тренером в истории чемпионатов России по футболу. Помимо этого, Романцев руководил дважды сборной России в 1994—1996 и 1998—2002 годах, выведя её в финальные этапы чемпионата Европы по футболу 1996 и чемпионата мира по футболу 2002 годов, однако в обоих случаях не преодолевал с ней групповой этап какого-либо из турниров.