Возглавляя молодёжную сборную страны, Терим одновременно стал помощником главного тренера основной команды Зеппа Пионтека. 27 октября 1993 года Терим сам стал главным тренером сборной Турции, сменив на посту немецкого специалиста. Под его руководством турецкая сборная успешно квалифицировалась на Евро-1996, заняв второе место в отборочной группе и потерпев при этом лишь одно поражение (от сборной Швейцарии со счётом 1:2). Несмотря на то, что в финальной части турнира турки проиграли все три матча (поражения последовали от сборных Хорватии, Португалии и Дании), не забив при этом ни одного гола, работа Терима была признана успешной, поскольку Турция до этого выступала на крупном международном турнире лишь в 1954 году.