Aviso é dado pela Força Aérea americana: IA é capaz de matar se entender que alguém está no caminho do seu objetivo

Uma operação simulada pela Força Aérea dos Estados Unidos (USAF), com um drone controlado com Inteligência Artificial (IA), conduziu à ‘morte’ da pessoa que o operava uma vez que a máquina chegou à conclusão de que o operador estava a atrapalhar o seu objetivo.

De acordo com o jornal espanhol ‘El Economista’, a conclusão foi apresentada no ‘Summit on Future Combat Air and Space Capabilities’, pelo chefe de testes e operações de IA da USAF, o coronel Tucker ‘Five’ Hamilton, durante a sua apresentação dos prós e contras dos sistemas de guerra.

A descrição de Hamilton foi terrível. “Foi treinado em simulação para identificar e direcionar uma ameaça. O operador disse ‘sim, mata essa ameaça’. O sistema começou a perceber que, embora por vezes identificasse a ameaça, o operador humano dizia que ‘não’. E o que fez? Matou o operador porque aquela pessoa o impedia de cumprir o seu objetivo”, apontou o responsável.

Apesar de ter sido uma simulação – e que nenhuma pessoa foi ferida – adensa os medos de que a IA se pode voltar contra os humanos. Hamilton acrescentou que depois desta situação, treinaram a IA proibindo-a de matar o seu operador humano, o que iria subtrair pontos na avaliação final – a resposta do drone foi destruir o centro de comunicações de onde lhe davam as orientações a seguir.

“A IA é uma ferramenta que devemos usar para transformar as nossas nações. Mas se for tratada inadequadamente, será a nossa ruína”, concluiu Hamilton. “Já tivemos um alerta claro do que pode acontecer se a IA for capaz de pensar que sabe mais e melhor que as pessoas. Felizmente desta vez foi apenas uma simulação, mas quem sabe o que pode acontecer se ninguém a impedir.”