由是自黜，称病谢免。与此同时，由于张苍推举的一个官员贪污，汉文帝借故责备张苍，张苍遂以老病正式辞职。张苍免职后，又过了十多年，孝景帝五年（前152年）去世，活了100多岁，谥文。张苍晚年口中无齿，习惯喝人奶，妻妾以百数，因此皮肤嫩白、细腻，每天有多名奶妈提供奶水。
学术思想.张苍早年师从荀子，与其同学李斯、韩非不同，其为人博览群书，深通律历，明于历算，为战国秦汉时期阴阳家代表人物之一。汉初确定正朔律历，张苍认为汉仍属「水德」，故而仍须以十月为岁首，服饰尚黑。其说为汉朝采纳，历法