04年11月24日起任联通集团董事长、党组书记。2008年中国电信业重组后，任联通集团与网通集团合并后的中国联合网络通信集团有限公司董事长兼新联通筹备组组长，后来成为新的中国联通董事长。2015年8月24日转任中国电信董事长。2002年，当选中共十六届中央纪委委员。2008年，当选第十一届全国政协委员，代表经济界，分入第三十六组，并担任教科文卫体委员会专委。
落马.2015年12月27日，中纪委发布消息，常小兵因涉嫌严重违纪正接受组织调查。据媒体报道，常小兵被调查，排在前面的案