为解放军的甘霖在1997年时于茂名队开始射击运动员生涯，在这3年间，吴波是他的教练。2000年，甘霖入选广东队，教练为刘晓东。两年后，他晋升至国家队一员，沈建东为他的教练。2005年10月17日，18岁的甘霖于十运会的射击小项—男子个人10米移动靶的金牌，是为广东队于当届全运会中的首面射击项目冠军。翌年7月，他于克罗地亚的世界锦标赛的男子团体10米移动靶小项以1158环的成绩，与牛志远、杨凌夺得冠军且刷新全国纪录。同时，他又赢得男子个人10米移动靶小项的锦标。同年12月，甘霖出战多哈亚运，先后以663.