氏族可能来自于古代的凯尔特。加尔巴的曾祖父曾经参与了布鲁图斯和卡西乌斯谋刺凯撒的阴谋，后被处死。加尔巴的祖父曾任罗马的大法官，而且是一名历史学家；加尔巴的父亲更曾经就任罗马的执政官。加尔巴出生于塔拉奇那（位于今日罗马城的南方拉丁那行省）。早年他曾被利维娅过继为子，因此传说他在小时候，奥古斯都曾对他说过：「孩子，将来你也会尝到我的权力的滋味。」后来的提比略也曾说过类似的话。加尔巴在36岁那年担任了执政官，并在阿奎塔尼塔担任行省长官。后来，卡利古拉任命他为上日耳曼行省总督；他以严格的纪律和训练要求士兵，