Следующее упоминание Публия Рутилия в источниках связано с Югуртинской войной: он отправился в Нумидию в качестве легата своего друга Квинта Цецилия Метелла, консула 109 года до н. э. Другим легатом Метелла был Гай Марий. В сражении при Мутуле Рутилию с частью войска удалось построить укреплённый лагерь для всей армии, сражавшейся в это время с Югуртой, и отразить атаку нумидийцев во главе с Бомилькаром. После ссоры между Метеллом и Марием именно Рутилий стал вторым человеком в армии, и это означало начало вражды между ним и Марием. Когда народное собрание в Риме решило передать командование последнему, Метелл, крайне расстроенный случившимся, уехал в Рим, оставив армию на Рутилия, и тот весной 107 года до н. э. передал её новому полководцу.