Con la nascita della Repubblica popolare, prese l'avvio anche la carriera politica di Xie. Fra il 1952 e il 1959 fu infatti segretario del Comitato Provinciale dello Yunnan del Partito Comunista Cinese. L'VIII Congresso del PCC lo elesse membro del Comitato centrale. Lavorò strettamente con il Ministero di pubblica sicurezza e, nel 1959, sostituì Luo Ruiqing come ministro.