Durante el golpe de agosto de 1991, Ajroméyev retornó de sus vacaciones en Sochi para ofrecer asistencia a los dirigentes del golpe de Estado. Aunque nunca estuvo implicado en él, tras su fracaso se suicidó en su despacho del Kremlin, ahorcándose con cuerda de cortina. Además de mensajes personales a su familia, dejó una nota explicando que no podía continuar viviendo cuando las instituciones a las que había dedicado su vida se estaban desintegrando.