世之兄，母为郑樱桃。后赵建平三年（333年），后赵帝石勒去世，石虎掌控大权，石遵当时被封为齐王。建武三年（337年），石虎改称天王后，被降封为彭城公。太宁元年（349年），石虎称帝后，再被进封为彭城王。太尉张举曾建议石虎立石遵或燕公石斌为太子，然而因昭仪刘氏及戎昭将军张豺从中作梗，石虎遂立刘氏之子石世为太子。太宁元年（349年），石虎病重，石遵被任命为大将军，镇守关右。石遵从幽州来朝，被打发走，石虎知道后说“恨不见之”。不久，石虎去世，石世即位，大权握于刘太后及张豺之手。石遵与姚弋仲、蒲洪、石闵等人