En 103 av. J.-C., alors qu'il est tribun de la plèbe, il accuse Quintus Servilius Caepio pour mauvaise conduite à la guerre (refusant de coopérer avec son supérieur, il est responsable du désastre d'Orange, la plus grande défaite depuis Cannes) et pour pillage du temple de Tolosa (Or de Toulouse) qu'il aurait accaparé pour lui seul, prétextant que le convoi du butin aurait été attaqué. En conséquence des émeutes suscités par Norbanus, Quintus Servilius Caepio doit s'exiler.