Han var minister for Grønland i Poul Schlüters første regjering 1982–1987. Han representerte Centrum-Demokraterne. Det var etter Høyems ønske at Grønlandsministeriet ble nedlagt og Grønland fikk utvidet selvstyre.