不佳的北京国安聘请金志扬出任该队的主教练。在他出任国安队主教练期间，国安队拥有了自己的“小、快、灵”打法。他担任主教练期间，北京国安队获得了联赛亚军、季军、殿军各一次，并且在1996年和1997年蝉联足协杯冠军。另外，在他的主导下，北京国安提出了“国安永远争第一”的口号。这段期间，金志扬将北京国安队带入了该队历史上的一个高潮。1997年，金志扬由于在北京国安的出色战绩，被中国足协聘请至中国国家男子足球队，成为中方教练组的一员。而在1998年底，他又接受了刚刚重返甲A的天津泰达足球俱乐部的邀请，出任该队主