Durante este acontecimiento histórico, conocido como el golpe de agosto, Borís Grómov fue ordenado por el GKChP para preparar a sus tropas internas para un ataque a la Casa Blanca de Moscú. Después de haber consultado el general Pável Grachov, Grómov se pronunció en contra del ataque. El golpe fracasó después de que el ejército se negara a atacar a los reformistas, encabezados por Borís Yeltsin y otros dirigentes políticos. Más tarde, Borís Grómov fue acusado de estar involucrado con la GKChP, aunque después se le ofreció una disculpa.