Trong Chính biến tháng 8 năm 1991, Yazov là thành viên của Ủy ban Nhà nước về Tình trạng Khẩn cấp nhằm cứu vãn Liên Xô nhưng thất bại. Sau này, ông kể lại rằng thực ra "Ủy ban Nhà nước về Tình trạng Khẩn cấp" không hề có ý định đảo chính, mà mục tiêu của họ là ngăn chặn sự phá hoại Nhà nước Liên Xô của Gorbachev và Yeltsin: