Sumário executivo

Amitai Etzioni é professor de relações internacionais na George Washington University e autor de Política externa: pensando fora da caixa (2016). Ele foi consultor sênior na Casa Branca Carter. Oren Etzioni é CEO do Instituto Allen de Inteligência Artificial e professor de ciência da computação na Universidade de Washington. Ele foi o fundador/cofundador da Farecast (vendida para a Microsoft) e da Decide (vendida para o eBay).

​

1. Os autores “entendem que autonomia significa que uma máquina tem a capacidade de tomar decisões com base nas informações coletadas pela máquina e de agir com base em suas próprias deliberações, além das instruções e parâmetros de seus produtores”.
2. Parece “inevitável” que sistemas autônomos, incluindo bombardeiros e aviões de combate sem piloto humano, se tornem mais predominantes. “Esse gênio deixou a garrafa e não vemos como colocá-la de volta.”
3. Para “missões monótonas, sujas ou perigosas”, os robôs serão melhores do que os humanos. Uma surtida de longa duração é um exemplo de missão “monótona”, a exposição a materiais radiológicos é um exemplo de missão “suja”, e o trabalho de descarte de material explosivo é um exemplo de missão “perigosa”.
4. A economia econômica poderia ser obtida por robôs militares. Atualmente, cada soldado no Afeganistão custa $850.000 por ano. Por outro lado, “o robô TALON — um pequeno rover que pode ser equipado com armas, custa $230,00”.
5. Os sistemas de armas aéreas estarão menos sujeitos à fadiga e ao estresse emocional e serão capazes de suportar tensões físicas, por exemplo, manobras de alto G, melhor do que os pilotos humanos.
6. Robôs militares autônomos podem muito bem ter um desempenho mais ético do que soldados humanos. Eles não serão necessariamente programados com um “instinto de sobrevivência” e, portanto, terão menos probabilidade de “atirar primeiro, fazer perguntas depois”. Eles estarão menos sujeitos a emoções de raiva, medo, covardia e desejos de retaliação ou vingança.
7. Ao substituir os combatentes humanos, “as armas autônomas poderiam reduzir a possibilidade de sofrimento e morte”.
8. Em contraste, os humanos são melhores em distinguir “quem é civil e quem é combatente”, então os sistemas de armas autônomos poderiam ser menos capazes de seguir uma importante regra do conflito armado, o “Princípio da Distinção”.
9. Uma das principais regras do Direito Internacional Humanitário é que, no caso de mortes de civis, alguma pessoa deve ser responsabilizada. No entanto, isso seria difícil ou impossível com sistemas de armas totalmente autônomos.
10. Chegar a acordos internacionais para limitar até mesmo alguns tipos de armas autônomas pode ser um desafio impossível. Traçar uma “linha vermelha” brilhante é bastante difícil, assim como alcançar um acordo e uma aplicação razoável.

​

Leia o artigo completo aqui. Resumo de Stephen Hicks, 2020

‍

‍