住在父亲所配台北市长安东路淡水线铁路边旧宿舍。早年就读私立再兴幼稚园，再兴小学，台北市市立大同中学后以联考状元成绩进入建国高级中学。毕业于国立台湾大学，获得物理学理学士学位。后赴美国留学，毕业于康乃尔大学，获得材料工程博士。毕业后曾短暂就职于位于美国科罗拉多州的惠普公司。蔡力行的职业生涯大半在台积电，1989年始受聘台积电。曾任台积电公司当时唯一一座晶圆厂的副厂长。后历任台积电晶圆二厂厂长、台积电晶圆三厂厂长、台积电南厂区副总经理（1995年出任）、台积电营运执行副总经理，负责台积电全球行销，并任台积电