。2012年，率领中国男子乒乓球队（王皓、张继科、马龙）获得第30届奥运会团体冠军。2013年，继续就任中国男子乒乓球队主教练同时，兼任中国乒乓球队总教练，成为继蔡振华之后的中国队第五位总教练。2016年，率领中国男子乒乓球队（张继科、马龙、许昕）获得第31届奥运会团体冠军。
暂离乒坛.2017年4月起不再兼任中国国家乒乓球队男队主教练。6月时由于乒乓球队内的架构变更，不再设立总教练和主教练，刘国梁被任命为中国乒乓球协会副主席。刘国梁在任命乒协副主席后，引起了球迷和球员