Почав свою кар'єру в армії — брав участь у кампаніях в Іспанії (облога Нуманції під керівництвом Сципіона Еміліана) і в Югуртинській війні. У 111 до н. е. був претором. Цицерон згадує, що Рутілій у перший раз виставив свою кандидатуру в консули, але зазнав поразки, після чого притягнув свого суперника до суду за звинуваченням у підкупі, а потім і сам був притягнутий до суду Марком Емілієм Скавром.