Swoją karierę Mariusz rozpoczął od służby w armii i udziału w wojnie numantyjskiej (133 p.n.e.) W Hiszpanii został zauważony przez Scypiona Afrykańskiego Młodszego, który miał go wskazać jako swojego potencjalnego następcę. Dzięki wstawiennictwu Kwintusa Cecyliusza Metellusa w 119 p.n.e. został wybrany trybunem ludowym, a w 115 pretorem. Służył ponownie w Hiszpanii, a wraz z wybuchem wojny z Jugurtą na stanowisku legata, w Afryce. Przypuszczalnie w tym okresie swojej kariery nie myślał jeszcze o zmianach systemowych w Rzymie, ale o tym aby zająć w jego ramach jak najdogodniejsze dla siebie miejsce. W 111 p.n.e. ożenił się z Julią, ciotką Juliusza Cezara (Swetoniusz "Boski Juliusz" VI.1) należącą do świetnie ustosunkowanego rodu Juliuszów.