行公事时自觉不应在宴会上像伶人般演奏乐器；更指司马冏作为辅政重臣应以身作则。司马冏听得极为惭愧。不久嵇绍因公事免职，司马冏任命他为左司马，但十日后司马冏即被长沙王司马乂诛杀。嵇绍免官后返回荥阳旧居。
血溅帝衣.嵇绍不久被征任为御史中丞，未上任即再转任侍中。太安二年（303年），司马颖与河间王司马颙举兵讨伐司马乂，进攻洛阳，司马乂领兵抵抗，兵士推举嵇绍为都督，于是嵇绍获任命为使持节、平西将军。次年，司马乂被东海王司马越等所捕并送交司马颙部将张方杀害，嵇绍复任侍中。战后王公以下都到司马