Fra 1974 til 1983 gikk han gradene som politijurist (politifullmektig, politiadjutant og sist politiinspektør) i Troms politidistrikt. Han var deretter politiinspektør og sjef for narkotikaseksjonen ved Oslo politidistrikt i syv år fra desember 1983 til september 1990. Fra september 1990 til februar 1994 var Fyhn kriminalsjef i Oslo, før han i mars 1994 ble politimester i Troms politidistrikt. Fyhn har vært aktor i 700 straffesaker. Han var den nest siste politimester i Norge som ikke var i åremålsstilling.