Krimin sodassa Canrobert oli aluksi divisioonankomentaja, mutta marsalkka de Saint Arnaudin kuoleman jälkeen hänestä tuli syyskuussa 1854 Krimille sijoitettujen Ranskan joukkojen ylipäällikkö. Canrobert luopui kuitenkin päällikkyydestä seuraavana vuonna jouduttuaan erimielisyyksiin englantilaisten päällikkönä toimineen lordi Raglanin kanssa ja palasi pian sen jälkeen Ranskaan. Seuraavaksi Canrobert lähetettiin Tukholmaan, jossa hän neuvotteli marraskuussa 1855 niin sanotun marraskuun traktaatin eli liiton Ruotsin ja toisaalta Ranskan sekä Ison-Britannian välille Venäjää vastaan.