州征伐陶谦，为躲避战祸携带诸葛亮、诸葛均及两位姪女，并与往江东的诸葛瑾分散，辗转逃往庐江一带。诸葛玄曾受袁术荐表为豫章太守，后来被朱皓取代，便带着孔明及其姊弟回到襄阳投靠刘表。后来诸葛玄一直病至去世。
与三国志不同之记载.裴松之在《三国志注》引《献帝春秋》记载，豫章太守周术病亡后，刘表荐封诸葛玄接替(另说是袁术上表荐封)，治南昌（今江西南昌）。东汉朝廷听闻周术过世，任命朱皓代替诸葛玄为豫章太守，朱皓请求扬州刺史刘繇出兵，共击诸葛玄。诸葛玄退守西城。建安二年（197年）正月，西城