少时家贫，为人雇佣，常一边耕作一边看书，治《尚书》，师事欧阳生。早年在廷尉张汤府中任笔墨小吏。汉武帝戊辰元鼎四年（前113年）任左内史，在任数年间，重视农业，并征发民工，负责在郑国渠上流南岸开六条小渠，使两旁高地得到灌溉，称为「六辅渠」。后任御史大夫。辛未元封元年（前110年），与司马迁等共同制定「太初历」，卒后归葬故里。着有《儿宽》九篇。今儿宽墓位于广饶县城西1.5公里处。