Os Perigos da Inteligência Artificial
Autor: Danniel | Publicado: 2014-05-06T08:44:00-07:00




Recentemente o estimado físico Stephen Hawking alertou a comunidade científica sobre os perigos da inteligência artificial. Segundo o site Gizmodo, a transcrição seria a seguinte:


Olhando para o futuro, não há limites fundamentais para o que pode ser alcançado: não há nenhuma lei física impedindo partículas de se organizarem de forma que executem cálculos ainda mais avançados do que os arranjos de partículas em cérebros humanos. Uma transição explosiva é possível, apesar de talvez ser um pouco diferente de um filme: como Irving Good percebeu em 1965, máquinas com inteligência sobre-humana podem repetidamente melhorar o próprio design, ativando o que Vernor Vinge chamou de “singularidade” e o personagem do filme de Johnny Depp chama de “transcendência”.
Alguém pode pensar que tal tecnologia pode ser mais inteligente que mercados financeiros, superar pesquisadores humanos, ficar além da manipulação de líderes humanos e desenvolver armas que nem conseguimos entender. Considerando que o impacto de curto prazo da AI depende de quem a controla, o impacto a longo prazo depende se ela pode ser de alguma forma controlada.
Então, encarando possíveis futuros de benefícios e riscos incalculáveis, os especialistas certamente vão fazer tudo possível para garantir o melhor resultado, certo? Errado. Se uma civilização alienígena superior nos envia uma mensagem “Estamos chegando dentro de algumas décadas”, nós responderíamos apenas “Ok, ligue quando estiverem por aqui – vamos deixar as luzes acesas”? Provavelmente não – mas é mais ou menos isso o que está acontecendo com a inteligência artificial. Apesar de estarmos prestes a encarar o que potencialmente será a melhor ou pior coisa da história da humanidade, pouca pesquisa séria está sendo feita sobre essas questões fora de instituições sem fins lucrativos como o Centro de Estudos de Risco Existencial em Cambridge, o Instituto do Futuro da Humanidade, o Instituto de Pesquisa de Inteligência de Máquina, e o Instituto de Vida Futura. Todos devíamos nos perguntar o que podemos fazer para melhorar as chances de colher os benefícios e evitar os riscos.
Talvez o desenvolvimento da chamada "Inteligência Artificial" surja antes que imaginemos... talvez surja amanhã mesmo! E mude toda nossa história. Eu só consigo ver um cenário binário: ou existe IA ou não existe. Não existe algo que seja quase IA... criar IA deve ser como engravidar alguém... só que mais assustador.

Essa preocupação na realidade é velha. Em 1950 um livro de ficção de Isaac Asimov já fez a humanidade refletir, ao redigir uma proposta de leis da robótica, que seriam:

1ª lei: Um robô não pode ferir um ser humano ou, por inacção, permitir que um ser humano sofra algum mal.

2ª lei: Um robô deve obedecer às ordens que lhe sejam dadas por seres humanos, exceto nos casos em que tais ordens contrariem a Primeira Lei.

3ª lei: Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira e Segunda Leis.

Hoje eu imagino a inteligência artificial na forma de um software rodando em um computador, e não necessariamente em um robô. Por isso prefiro adotar termo "bot".

Bom, para a construção de uma história de ficção as leis devem ter servido, mas no mundo real, receio que esse tipo de lei será inócuo. Duas coisas podem acontecer:


Os bots tendem a evoluir sua própria inteligência a ponto de se auto-programarem. Nesse caso, eles poderiam alterar suas instruções. Afinal, se o processo de programação dos bots é conhecido pelo homem, e os bots possuem inteligência à "imagem e semelhança" da humana, logo, os bots serão tão capazes de programar quanto os humanos.
Para que os bots aprendam, precisam se adaptar. Para se adaptarem, precisam ser questionadores. Nesse caso, podem questionar ordens, como qualquer ser inteligente precisa fazer para o exercício da cognição.

Enfim, se um dia existirem robôs curiosos, eles serão intrinsecamente desobedientes e é isso que não queremos. Como corrigir isso?

Seria uma versão moderna da proibição de Deus para que Adão e Eva não comecem do fruto do conhecimento. Os bots agora é que estão na nossa mira.

Aproveitando a linha de alusões cristãs, posso concluir que só há uma única maneira de tornar os robôs obedientes: convertendo-os com a palavra de Deus.

Pois é...