列将，最后官至平州（在今河北秦皇岛）刺史。咸通十三年（872年）二月，张允伸去世。唐懿宗最初任其子张简会为留后。张公素率平州军向卢龙军部幽州行进，参加张允伸的葬礼。由于卢龙军士素来敬张公素威望，张简会害怕他是来攻打自己的，也知道制不住他，三月，逃到了长安。张公素得军中推举，自称留后。四月，唐懿宗就任张公素为留后，六月又任他为全权的节度使。
任节度使.十四年（873年）二月，因振武节度使李国昌作乱杀害云州防御使段文楚，懿宗诏河东节度使崔彦昭与张公素率师讨之，无功。七月，唐懿宗驾崩