Sertorius berkhidmat untuk legiun yang pada masa itu menghadapi ancaman daripada Cimbri. Dengan berkhidmat di bawah pimpinan Quintus Servilius Caepio, Sertorius merupakan salah seorang daripada tentera Rom yang terselamat dalam Pertempuran Arausio yang memusnahkan. Seterusnya, Sertorius telah menumpahkan kesetiaannya kepada Gaius Marius dan keputusan ini yang akan menetapkan arah tuju kehidupannya. Beliau secara sukarela ingin berkhidmat sebagai seorang perisik dengan mengenakan pakaian seperti pahlawan Cimbri, mempelajari bahasa mereka dan menyertai puak itu untuk menyerang Hispania, tempat yang mesra dengannya pada satu hari nanti. Sertorius menyelinap kembali kepada Marius semasa Cimbri pulang ke Itali pada tahun 102 SM. Beliau telah dikurniakan ganjaran oleh kerana usahanya yang berani. Beliau mungkin bersama legiun Rom bertempur menentang Cimbri di Aquae Sextiae dan Vercellae sekali gus mengakhiri ancaman daripada puak Cimbri. Kemudian, beliau meneruskan khidmatnya sebagai legiun di Hispania sebelum menjadi quaestor iaitu seorang penyelia kewangan di Cisalpine Gaul.