В 1849 году был назначен начальником артиллерии действующей армии и оставался в этом звании до сражения на Чёрной речке (4 августа 1855 г.) во время Крымской войны, после которого ему был вверен 3-й корпус, а в следующем году — Южная армия. Армией Сухозанет командовал с января до 17 апреля, когда, после отставки князя Долгорукова, император Александр II избрал его на пост военного министра. Произведённый 26 ноября 1852 года в генералы от артиллерии, очередное повышение — до генерал-адъютанта он получил 26 августа 1856 года. В тот период он получил свои очередные награды: российский орден Св. Александра Невского (1851), прусский орден Красного орла 1-й степени (1851) и Австрийский орден Леопольда 1-й степени (1853).