骑（萧道成）中兵参军，兼任济阳太守。后来又加封前军将军。升明二年（478年），萧道成担任太尉后，荀伯玉出任太尉府中兵参军，并继续兼任济阳太守和前军将军。建元元年（479年），萧道成称帝建立南朝齐后，荀伯玉受封南丰县子，食邑四百户，并转任辅国将军、武陵王（萧曅）征虏司马，之后又接连担任安成王（萧暠）冠军司马、豫章王（萧嶷）司空咨议，继续兼任济阳太守。太子萧赜僭越，平时生活起居都是皇帝规格，引发骁骑将军陈胤叔以及荀伯玉不满。陈胤叔和荀伯玉先后向萧道成告密萧赜行为僭越。萧道成大怒，将萧赜宠臣张景真处决。骁骑将