在民间的汉武帝的曾孙刘病已是同学。张彭祖荫父爵担任中郎将侍中。张安世的哥哥张贺之子早死，于是以张彭祖为张贺的继子。刘病已即位为汉宣帝，因为他父亲帮助过宣帝，宣帝封张彭祖为阳都侯。神爵三年（前59年）张彭祖被小妻所杀。张彭祖工书，唐朝韦续《九品书人论》列其草书于品上之下。