担任过一机部部长的段君毅出任中共河南省委书记、兼省革命委员会主任。段君毅对自己当年的老部下大力提拔。于是，1980年罗干出任了河南省科技委员会主任、兼省进出口委员会副主任；一年后，升任河南省副省长，时年46岁。1983年，罗干进入中央工作；出任中华全国总工会副主席、书记处书记、党组副书记，主持“全总”的具体工作。1988年3月，罗干被任命为劳动部部长；同年12月，因为陈俊生病重无法理事，罗干又接替了国务院秘书长的职务。1993年，在李鹏总理的第二任国务院领导班子中，罗干升任国务委员、继续兼任国务院秘书长