Vladanje je prevzel šestintridesetleten, med krimsko vojno, v kateri je Rusiji slabo kazalo. Marca 1855 so mu zavezniki (Anglija, Francija, Turčija, Avstrija, Prusija, slednji uradno nista bili v vojni) na Dunaju ponudili mir. Sevastopol se je tedaj še junaško branil in ruski pogajalci so ponudbo odklonili, nakar so zavezniki še bolj sklenili svoje vrste. Pridružila se jim je še kraljevina Sardinija in septembra 1855 je Sevastopol padel. Z mirom v Parizu (april 1856) je Rusija izgubila vse, za kar so si prizadevali ruski carji od Petra Velikega naprej: Rusi so smeli v Črnem morju obdržati le simbolno prisotnost svoje vojne mornarice, zapustiti so morali vse utrdbe ob njem (ki jih je mukoma gradil Potemkin), odreči so se morali delu Besarabije in protektoratu nad Moldavijo in Vlaško. V ruski javnosti je prevladalo mnenje, da se je Aleksander slabo pogajal in preveč popustil.