955年2月马林科夫被迫辞去部长会议主席一职，但是仍然留在政治局中，任部长会议副主席及电力部长。1957年，马林科夫跟赫鲁晓夫权力斗争失败被打成反党集团，被解除一切职务。1961年马林科夫被苏联共产党开除党籍，并被流放到苏联的偏远省份。之后曾经在哈萨克斯坦乌思季卡缅诺戈尔斯克负责兴建水力发电厂，1988年1月14日在莫斯科去世。他是在戈尔巴乔夫执政期间去世的最高领导人之一。