10年，后来被调到格鲁吉亚从事地下工作。1938年12月，他当上了贝利亚的第一副手，1938一1941年，任国家安全总局局长。1943--1946年，梅尔库洛夫任国家安全人民委员和国家安全一级政委，1945年升为大将，1946年3月至1946年5月任国家安全部部长，其间多次负责民族迁徙。1953年12月23日，贝利亚倒台后梅尔库洛夫被枪决。