六岁时，到长安学习，研习梁丘易，由于张堪志向高远、品行端正，京师的人们都称他爲「圣童」。刘秀年轻时，见张堪志向品行，经常称赞他。刘秀称帝后，中郎将来歙举荐张堪，张堪被任命为郎中，三次升迁任谒者。后来张堪奉命运输质地细薄的丝织品，率领七千骑兵，随大司马吴汉讨伐公孙述，路途中张堪被任命为蜀郡太守。当时汉军只剩七天粮食，暗中准备船只打算撤军，张堪知道后，跑去见吴汉，说明公孙述必败，不应该撤军，并献上计策。吴汉採纳张堪建议，故意显得军力薄弱借此诱敌出击，公孙述果然出战，结果公孙述战死城下。成都被攻下后，张堪进入