，谢尔巴科夫在下诺夫哥罗德省（高尔基州）从事党务工作，历任区委部长、区委书记、《下诺夫哥罗德公社报》编辑、省委部长和穆罗姆专区区委书记。1930－1932年就学于红色教授学院。1932－1936年在联共（布）中央机关任职。1934年,谢尔巴科夫协助马克西姆·高尔基组建苏联作家协会，后任苏联作家协会第一任书记。1936－1938年先后任联共（布）列宁格勒第二书记、伊尔库茨克州第一书记和乌克兰共产党（布）顿涅茨克州委第一书记。1937年当选为苏联最高苏维埃代表。1938－1945年任莫斯科州委兼市委第一书记。