Den 9. november 1861 overtok Miljutin også krigsministerporteføljen og visste å med sin dugelighet å slå ned det motstand, som det til da overmektige aristokratiet satte inn mot nykomlingen. Blant de tiltak som han gikk til innen krigsvesenet må påpekes tjenestetidens betydelige nedsetting, forvaltningens regulering og desentralisering ved innføring av militærdistriktsinndeling, forbedring av soldatenes stilling ved å avskaffe kroppsstraffer og ved innføring av nøyere kontroll, utferdigelse av ny rettegangsordning, forbedring av offisersutdannelsen, særskilt ved opprettelsen av de såkalte junkerskolene, arméens fordobling etter det polske opprør og tilslutt ved innføring av alminnelig verneplikt i 1874.