在长安卖铁，遇到司马懿，得到司马懿赏识，并擢升为尚书郎，后担任中护军司马师的司马。后又任邺城典农中郎将。当时曹魏宗室诸王都在邺城居住，而尚书丁谧又因曹爽专政而权倾一时，二者当时势力都很大，但石苞却敢于上奏他们的所作所为，因而得到很多人的赞许。后又历任东莱太守和琅邪太守，所在都有声威和恩泽。后又迁任徐州刺史。嘉平四年（252年），司马昭统领胡遵、诸葛诞等领兵攻打东吴，石苞亦随同出战。东吴太傅诸葛恪在东兴迎击，大败魏军，曹魏各部队都溃败，不少人因践踏和遇溺而死，但石苞所领的部队却能全身而退。司马昭于是指着所