转任雍州司马。一年后，转任吏部侍郎。再任雍州司马，因事连坐左迁盩厔县令。随后再任雍州司马，入朝为吏部侍郎，因公事免职。隋炀帝即位，高构担任吏部侍郎。吏部中最有才能之人，前后典选的官员，都出于其下。高构好放谈，有人认为他轻薄，但内里方正优雅，被吏部尚书牛弘看重。后因老病解职，人事上的问题，牛弘派使者到他家中谘问。611年，七十二岁时去世。高构性格滑稽多智，喜好辩论，好读书，擅长行政事务。他看重的人物杜如晦、房玄龄，后来成为唐朝开国的重要大臣，高构于是有了知人审才的好名声。