Na severních hranicích římské republiky se zatím vyskytlo nové, mnohem vážnější nebezpečí římské moci. Už během války v Numidii vypukl v Galii konflikt s germánskými kmeny Kimbrů a Teutonů, které po opuštění Jutského poloostrova hledaly nová sídla. Římské legie vyslané proti tomuto mocnému kmenovému svazu utrpěly sérii ničivých porážek, jež vyvrcholily katastrofou Římanů v bitvě u Arausia. Za této kritické situace bylo velení nad římským vojskem, jež mělo zastavit postup Germánů, svěřeno Mariovi. V roce 104 př. n. l. sloužil Sulla pod Mariem nejprve jako legát a pak jako vojenský tribun. Nicméně z důvodu zhoršujícího se vzájemného poměru mezi oběma muži, byl Sulla v roce 102 př. n. l. přeložen k vojsku Mariova kolegy Quinta Lutatia Catula v Předalpské Galii (dnešní severní Itálie). Jelikož Římané pod Catulovým velením nebyli schopní zadržet pronikající Kimbry v alpských průsmycích, museli Catulus a Sulla ustoupit za řeku Pád. V létě roku 101 př. n. l. bylo jejich vojsko posíleno Mariovými legiemi vracejícími se ze Zaalpské Galie po vítězství nad Teutony předchozího roku. Spojené římské vojsko se následně utkalo s Kimbry v bitvě u Vercell, v níž byla germánská hrozba konečně odvrácena. Sullovi náležel nesporný podíl na rozdrcení Kimbrů, ovšem triumf připadl pouze velitelům – Mariovi a Catulovi.