随从入汉中。后来常山王张耳归汉，刘邦任命张苍为常山太守，随从刘邦灭赵。赵地平定后，张苍获任命为代之相，负责防备匈奴。不久又迁为赵相。张耳去世，张苍复相赵王张敖，不久再迁为代相防备匈奴。燕王臧荼反，张苍以代相从攻燕有功，封为北平侯，1200户。张苍明于历法、术数，萧何为相国时，以列侯身份出任计相，为相国萧何的副手，驻于相府。淮南王黥布造反平定后，刘邦立子刘长为淮南王，张苍出任淮南相。汉高后七年，迁为御史大夫。高后八年，以周勃、陈平为首的功臣集团和朱虚侯刘章为首的刘氏皇族联合，发动政变，诛除诸吕。张苍亦参加