获晋武帝任命为秘书丞。嵇绍后转任汝阴郡太守，后调任豫章内史，但因母丧而离职；服丧后上任徐州刺史。当时假节监徐州诸军事的征虏将军石崇性格骄横暴虐，但嵇绍以道理令石崇佩服，对他甚为敬重亲近。晋惠帝元康初年，嵇绍任给事黄门侍郎。永康元年（300年），赵王司马伦诛除贾后，其宗族党羽贾谧亦被杀，嵇绍因当日贾谧得势时拒绝与贾谧交往而获封弋阳子，后迁散骑常侍，领国子博士。
切谏救国.永康二年（301年），司马伦篡位，任命嵇绍为侍中；同年四月司马伦被齐王司马冏等击败，惠帝复位，但嵇绍仍居其职。