从事铁道建设，曾任职于中东、津浦、胶济、北宁、粤汉等许多铁路。期间还曾于1928年出任交通大学秘书长，并代校长蔡元培主持校政。抗日战争结束后，他出任交通部技监、中国机械工程学会会长。1947年任交通大学校长，翌年辞职。中华人民共和国成立后程孝刚担任浙江大学教授。1952年起回交通大学任教，历任运输起重机械系主任、校务委员、副校长。他于1955年当选中国科学院技术科学部学部委员（院士）。此外，他还担任过全国人大代表、上海市科技副主席、《辞海》副主编等职。1977年8月在上海逝世。