内，加比尼乌斯帮助普布利乌斯·克洛迪乌斯攻击西塞罗，最终将西塞罗流放。前57年，加比尼乌斯作为资深执政官前往叙利亚镇压犹太人起义。在抵达叙利亚后，加比尼乌斯迅速平息了暴动并恢复罗马人的傀儡希尔卡努斯二世在犹太地区的最高地位（犹太教大祭司）。他并且改变了犹大王国的政府机构，以使它更加依附于罗马。加比尼乌斯也主持重建了几座毁于战火的犹太城镇。前55年加比尼乌斯受庞培之命前往埃及恢复托勒密十二世的王位（此事没有事先得到元老院的同意）。在他离开叙利亚后，犹太王国再次发生内乱，希尔卡努斯二世又被推翻。加比尼乌斯在