建兴八年（320年），张寔被部下所杀，因其子骏年幼，张茂就代摄其位，杀刘弘数百名同党。时凉州府推举张茂为大都督、太尉、凉州牧，但张茂不肯受，只以使持节平西将军、凉州牧职位，又以张寔子张骏为抚军将军、武威太守、西平公。。建兴十年（322年），张茂派韩璞率兵佔领陇西南安郡境，并在当地置秦州。建兴十一年（323年），前赵刘曜派部将刘咸攻冀城，唿延晏攻桑壁，时临洮人翟楷及石琮等又驱逐其地方官员响应刘曜，刘曜本人更发兵二十八万五千人沿黄河列阵百多里，张茂设在黄河沿岸守戍的军队望风奔逃，刘曜更声言面率大军渡河，