和国时期，他先后任中共中央军委联络部副部长，中共中央调查部副部长。1970年代初期，中共中央调查部恢复工作后，罗青长任部长，一直任至1982年中共中央调查部并入新组建的国家安全部。1966年文化大革命爆发后，罗青长一度受到冲击，被打成“黑孔（原中共中央调查部部长孔原）集团黑干将”遭到关押，后又被康生打成“反革命集团”。但由于罗青长的工作较为特殊，故罗青长受到周恩来的保护，其业务领导地位基本未中断。1952年起，罗青长兼任中央对台工作领导小组办公室主任，在总理周恩来的领导下长期负责对台湾工作。1975