中华人民共和国成立后，谭政兼任中共中央中南局第一副书记，华南分局第三书记，华南军区政治委员。1954年2月，谭政任第一届全国人民代表大会常委会委员。9月，任第一届国防委员会委员，中国国防部副部长。10月，任中国人民解放军总政治部第一副主任。1955年9月，被授予中国人民解放军大将军衔，并获一级八一勋章、一级独立自由勋章、一级解放勋章。1956年9月，出席了中国共产党第八次全国代表大会，起草发言《建军新阶段政治工作的若干问题》，制定解放军在新阶段的发展方向并总结问题，随后被中央军委印发全军。此后，谭政当选为中共中央书记处书记。12月，任中国人民解放军总政治部主任。1959年，庐山会议上，谭政反对继续整彭德怀、黄克诚、张闻天和周小舟等人。