Riscos catastróficos e existenciais

*Este tema está sujeito a mudanças dependendo de análises recentes,
de forma que parte deste conteúdo pode estar desatualizado.*

**Riscos catastróficos globais** são eventos com o potencial de devastar uma parcela grande da humanidade e da vida na Terra, ou de atrasar nosso desenvolvimento por muitas décadas. **Riscos existenciais** são eventos com o potencial extinguir ou de prejudicar enormemente todo o futuro da espécie humana. Estes dois tipos de riscos são considerados como sendo de extrema importância, pelas suas consequências em termos de mortes, sofrimento e atraso social.

## Principais argumentos em relação a priorização

### Importância da prevenção de riscos catastróficos

O valor associado a prevenção de riscos catastróficos é o de tudo que pode ser perdido na eventualidade de acontecerem: bilhões de vidas humanas e animais, destruição da infraestrutura social, da organização política e econômica, perda de capital, conhecimento e tecnologia, prejudicando enormemente bilhões de pessoas por muitas décadas, talvez séculos. Se formos extintos seria o fim de tudo que damos valor, de todo e qualquer potencial positivo que a humanidade possa ter. Mesmo sob estimativas conservadoras, o número de vidas humanas prejudicadas ou que deixarão de existir pode ultrapassam quatrilhões . Ainda que a probabilidade destes eventos seja pequena, o imenso potencial negativo que podem ter faz com que o valor esperado de diminuir ainda que pouco estes riscos seja muito alto, teoricamente muito mais alto do que outras intervenções que possam salvar milhões de vidas por exemplo . Estimativas sobre riscos são altamente subjetivas e imprecisas mas valores de 10-20% da ocorrência de riscos existenciais neste século são típicas entre os que estudam o assunto , o que é bastante substancial. Dadas estas considerações, uma posição moderada poderia ser de que riscos catastróficos devem no mínimo também ter prioridade como uma causa humanitária, assim como outras causas de larga escala.

Alguns tipos de riscos catastróficos e existenciais são relativamente pouco explorados, e sua pesquisa tem baixo investimento em proporção a sua importância, isto possivelmente se deve a falta de incentivos institucionais de governos e ONGs na prevenção de eventos de baixa probabilidade e prazo muito longo . Isto justificaria sua priorização como intervenção eficaz até que se sejam criadas instituições competentes e bem financiadas para cuidar delas.

### Objeções à priorização

Uma objeção levantada à priorização da prevenção de alguns riscos catastróficos, em relação a outras intervenções sociais que conhecemos melhor e temos mais evidências de impacto é a de que nossa intervenção neste estágio de conhecimento tem chances consideráveis de ser inócua ou prejudicial, por ainda termos muito pouca informação, e ainda não sabermos que formas de intervir tem impacto e maior custo-efetividade. Esta objeção se aplicaria por exemplo a riscos de inteligência artificial, mas poderia não se aplicar a outros riscos como biossegurança, ou mudanças climáticas.

## Principais riscos catastróficos globais atuais (2017)

### Antropogênicos

Riscos antropogênicos são considerados mais urgentes e prioritários, por alguns deles serem novos e ainda pouco conhecidos, ou pela expectativa de seu risco aumentar com o desenvolvimento de novas tecnologias .

* Tecnologias emergentes
	+ Riscos da inteligência artificial (aumento de investimento recente)
	+ Biologia sintética e biossegurança: armas biológicas e bioterrorismo (relativamente pouco investimento )
	+ Riscos da nanotecnologia
* Pandemias
* Superbactérias e resistência a antibióticos
* Mudanças climáticas extremas e geoengenharia (geoengenharia tem pouco investimento )
* Guerra nuclear (há relativamente bastante investimento)
* Guerra mundial
* Totalitarismo em escala global

### Naturais

Estes riscos naturais são considerados de menor probabilidade ou tratabilidade no momento atual .

* Tempestades geomagnéticas (há um risco significativo e relativamente pouco investimento )
* Grandes erupções vulcânicas (imprevisíveis e intratáveis )
* Asteroide gigante (pouco provável e relativamente bem monitorados )

## Prevenção de riscos catastróficos

A prevenção de riscos se dá por diversas vias dependendo do tipo de risco, e pode envolver políticas públicas, acordos internacionais, aumento de monitoramento, criação de infraestrutura de segurança e desenvolvimento de novas tecnologias .

A desaceleração do desenvolvimento tecnológico pode ser favorável em algumas áreas (como armas biológicas), mas pode ser difícil de ser efetivado e se feito por apenas uma parte dos agentes pode acabar aumentando outros riscos (como o de guerra) .

A pesquisa em riscos catastróficos é um importante instrumento para direcionar investimentos e políticas de prevenção, e portanto também um importante investimento de prevenção .

## Veja também

* Pesquisa em riscos catastróficos
* Riscos de inteligência artificial
* Aquecimento global
* Futuro distante
* Causas prioritárias

## Links

#### Em inglês

* Frequently Asked Questions - Existential-Risk.org - Perguntas mais comuns sobre riscos existenciais.
* Global catastrophic risks - Wikipedia
* Global Catastrophic Risks - Open Philanthropy Project - Relatório do OPP sobre riscos catastróficos globais.
* Global Risks Report 2017 - Relatório do Fórum Econômico Mundial sobre riscos globais atuais.
* Organization Directory - Global Catastrophic Risk Institute - Uma lista de organizações que trabalham na avaliação e prevenção de riscos catastróficos.

#### Em português

* Os Maiores Mitos sobre a inteligência artificial
* Prevenção contra o risco existencial - Artigo de Nick Bostrom conceitualizando riscos existenciais e argumentando porque são importantes.

## Referências

1. ↑ 1,0 1,1 1,2 1,3 1,4 Why should I be concerned with existential risks?
2. ↑ Frequently Asked Questions - Existential-Risk.org
3. ↑ Potential global catastrophic risk focus areas - GiveWell, 2015
4. ↑ 4,0 4,1 4,2 4,3 4,4 4,5 4,6 Potential global catastrophic risk focus areas - GiveWell, 2015