国子。唐高宗麟德二年（665年），起家为左亲府，充辇脚侍奉。初任潼水府右都尉，后任至北庭副都护。开元初年（713年），为右骁卫将军兼北庭都护，金山道副大总管。开元二年（714年）春，突厥可汗默啜派遣其子移涅可汗及同俄特勤率精骑围攻北庭，郭虔瓘与副手郭知运率众固守。同俄特勤单骑亲临城下指挥作战，郭虔瓘派勇士埋伏于路左，突然发动，斩杀同俄特勤，突厥军见首领被杀，三军恸哭，便引兵撤退。默啜妹婿火拔颉利发石阿失毕与同俄特勤一同领兵，怕同俄之死引发默啜怪罪，于是带着妻子投奔唐朝。郭虔瓘以功被唐玄宗授为冠军大将军，