Đầu năm 1991, chính Yazov là người đã ra lệnh phái lực lượng đặc nhiệm OMON tới Latvia và Litva. Trong Chính biến tháng 8 năm 1991, Yazov là thành viên của Ủy ban Nhà nước về Tình trạng Khẩn cấp. Khi Ủy ban này thất bại, Yazov bị Gorbachev cách chức. Liên Xô bị giải thể, Yeltsin đem Yazov ra xét xử vào năm 1994. Yazov bị giam 18 tháng tại nhà tù Matrosskaya Tishina. Sau đó, Yeltsin lại kết luận rằng Yazov vô tội và được tha. Yazov giải ngũ với một nghi lễ chính thức và được tưởng thưởng Huân chương Tổng thống. Sau này, Yazov làm cố vấn cho Bộ Tổng tham mưu Quân đội Liên bang Nga.