任公司党委副书记、监事长、纪委书记。2008年9月他出任交通银行董事长。2013年4月任中国国家开发银行董事长。2018年9月，胡怀邦退休。
落马.胡怀邦退休后不久，公开新闻报道将胡怀邦同原中共甘肃省委书记王三运、华信能源老板叶简明联系在一起。2018年10月11日，王三运受贿案一审当天，中国中央电视台的新闻披露了王三运接受叶简明贿赂的证据，其中两条同胡怀邦有关：王三运请时任交通银行董事长胡怀邦帮助上海华信参股海南银行；王三运请国家开发银行董事长胡怀邦帮助海南华信获得国开行48亿美