sensores. O Samsung SGR-A1, robo-sentinela sul-coreano criado em 2006, pode disparar uma metralhadora ao detectar humanos sem intervencao humana adicional, embora possa ser programado para nao disparar se quem se aproxima pronunciar a senha correta.Tambem robotico e potencialmente autonomo, o sistema Phalanx de canhoes antiaereos automaticos, usado pelos Estados Unidos desde os anos 1980, e responsavel pela morte de ao menos dois militares e um tecnico civil e a perda de um aviao de ataque por fogo amigo. O sistema Aegis de lancamento automatico de misseis antiaereos, de maior alcance, envolve os mesmos riscos e em 1988 levou o cruzador estadunidense Vincennes a abater um Airbus civil iraniano e matar 290 passageiros. Embora estivesse em modo semiautomatico, o sistema o identificou, erradamente, como um caca F-14 e nenhum dos 18 oficiais e tecnicos da tripulacao o questionou, embora o aviao seguisse uma rota comercial rotineira e um ataque iraniano a um navio dos EUA fosse, naquela conjuntura, muito improvavel.O slogan do lobby das armas e que armas na matam pessoas, pessoas matam pessoas. Mas que pessoas responsabilizar quando a arma e um robo? As centenas que colaboraram para programa-la? Ao oficial que mandou ativa-la? Ao ministro, general ou almirante que decidiu adota-la, apesar dos riscos? E se o programa puder aprender com a experiencia e desenvolver comportamentos emergentes imprevistos, como ja existem exemplos, de modo que ninguem possa prever exatamente como se comportara em uma dada situacao? Hellstrom receia que o uso de robos sirva como pretexto para politicos, generais, oficiais e soldados se isentarem de responsabilidades e propoe que a construcao e o uso de robos autonomos sem restricoes normais embutidas sejam tratados como crimes de guerra.Quem e responsavel se um crime contra a humanidade for cometido por maquinas? Politicos, generais, soldados ou programadores?Outro academico, o professor Ronald C. Arkin, do Instituto de Tecnologia da Georgia (Georgia Tech), propoe um plano de pesquisa de algoritmos de regulacao etica para que tais armas, ao serem postas em combate, sejam capazes de disparar e suspender fogo de acordo com as leis de guerra internacionais, o que acredita ser uma meta factivel em 10 a 20 anos.Quando os robos ainda eram ficcao cientificaAs tres leis da robotica, propostas por Isaac Asimov em seu conto Circulo Vicioso (no original, Runaround), de outubro de 1941, incluido na coletanea Eu, Robo:PRIMEIRA LEIUm robo nao pode ferir um ser humano ou, por omissao, permitir que um humano seja ferido.SEGUNDA LEIUm robo deve obedecer as ordens dadas a ele por seres humanos, exceto quando tais ordens entram em conflito com a Primeira Lei.TERCEIRA LEIUm robo deve proteger a sua propria existencia , contanto que tal protecao nao entre em conflito com a Primeira ou a Segunda Lei.Arkin cita um episodio documentado da guerra no Iraque, no qual o piloto de um helicoptero armado atirou em tres supostos insurgentes que se moviam entre caminhoes estacionados, divisados por infravermelho. Um sobreviveu e escondeu-se debaixo de um dos caminhoes. Quando saiu, o piloto avisou que o homem estava ferido. Mesmo assim, recebeu do comando a ordem de liquida-lo, em uma violacao flagrante