1年至1987年，戈卢别夫在伊斯坦布尔工作。回国后升任克格勃第一总局K局局长。1989年至1991年10月，任第一总局第20局局长。1990年12月晋升少将。苏联解体前担任俄罗斯苏维埃联邦社会主义共和国克格勃情报分部主任。1993年开始担任俄罗斯联邦对外情报局某部门主任。1993年12月晋升中将。1997年6月开始担任对外情报局局长顾问团高级顾问。2001年退役。晚年曾任俄罗斯联邦对外情报局退伍军人委员会主席。2020年2月8日在莫斯科逝世。获红旗勋章、红星勋章、荣誉勋章各一枚，奖章多枚。