祖郭献于南朝宋时定居齐郡临淄，后代又移居河南阳翟颍川乡（今河南省禹州市），遂为阳翟人。祖父郭晟，唐初为太常卿、太原郡开国公。父郭庆，右监门卫将军、义章县开国子。唐高宗麟德二年（665年），起家为左亲府，充辇脚侍奉。初任潼水府右都尉，后任至北庭副都护。开元初年（713年），为右骁卫将军兼北庭都护，金山道副大总管。开元二年（714年）春，突厥可汗默啜派遣其子移涅可汗及同俄特勤率精骑围攻北庭，郭虔瓘与副手郭知运率众固守。同俄特勤单骑亲临城下指挥作战，郭虔瓘派勇士埋伏于路左，突然发动，斩杀同俄特勤，突厥军见首领