Ética de IA ou Ética Humana?

Por Hugo Filipe, Partner da Nimble

Nos últimos anos temos assistido à gradual transformação da Inteligência Artificial (IA) em uma força omnipresente que moldará todos os aspetos da nossa vida. Como em qualquer boa história de fantasia, o génio saiu da lâmpada e não há como fazê-lo regressar. Ainda que fosse possível, será que é isso que queremos fazer ou que é essa a melhor estratégia?

Há cerca de uma década, comentavam-se duas regras de ouro: não colocar o código da IA na internet e não permitir que ela escrevesse código por si própria. Porém, estas regras rapidamente foram quebradas. Hoje, vemos códigos de IA disponíveis publicamente e IA a criar código numa evolução que parecia impossível há alguns anos.

Comos sabemos, a IA evolui a um ritmo vertiginoso, multiplicando as suas capacidades dez vezes a cada seis meses. Esta abundância tecnológica promete alcançar todos os cantos do mundo, mas curiosamente, pode também criar uma maior escassez seletiva, deixando-nos a questionar o controlo que realmente temos sobre estas inovações.

A verdade é que neste momento estamos a enfrentar o fenómeno das “alucinações” de IA por um lado e a produzir resultados inesperados ou errôneos por outro. Nick Bostrom, um filósofo da Universidade de Oxford, introduziu o conceito do “paper clip problem”, em 2014, que consegue explicar aquilo que vivenciamos na perfeição. Sucintamente, imaginemos que alguém programa uma IA com o objetivo de produzir clipes de papel. Sendo superinteligente, se houver uma maneira de transformar qualquer coisa em clipes de papel, a IA vai encontrá-la. Sendo a IA mais determinada e engenhosa do que o comum mortal, irá apropriar-se de recursos de outras atividades. Em pouco tempo, o mundo estará inundado de clipes de papel.

Outro exemplo mais concreto e que aconteceu nos Países Baixos é “Toeslagenaffaire”, onde um erro de IA afetou a vida de dezenas de milhares de contribuintes holandeses devido a um erro no algoritmo. São estes casos que demostram o impacto colossal que os erros de IA podem ter na credibilidade das instituições e na vida das pessoas. Assim, é necessário assumirmos a responsabilidade pelo uso da tecnologia que criamos.

Pensemos na IA como uma criança sobredotada, ela não deve ser agrilhoada nas suas capacidades extraordinárias, mas deve ser educada e crescer nos valores adequados. Para esta viagem, o seu mentor deve ter uma “carta de condução” que lhe atribua a competência e a responsabilidade necessárias à sua navegação pelo mundo digital com impactos no mundo real. Em vez de restringir, devemos orientar e guiar o seu desenvolvimento.

Neste contexto, o Ato de IA da UE surge como uma tentativa de regular e orientar o uso ético e seguro da IA na Europa. A privacidade de dados e as infrações de propriedade intelectual são questões centrais neste momento. Os dados recolhidos de forma tendenciosa e a violação de direitos intelectuais exigem soluções inovadoras e uma legislação robusta. Governos e organizações devem continuar a trabalhar.

Complementarmente a esta regulamentação, a Web 3.0 encarrega-se de desmultiplicar as lâmpadas do génio utilizando cada desejo para cada uma das três leis do Asimov, combatendo a centralização e opacidade do poder da IA em meia dúzia das grandes organizações que têm as suas agendas individuais, tipicamente divergentes dos interesses das autoridades governativas eleitas e sob o escrutínio das pessoas.

A questão essencial talvez seja: devemos falar em ética de IA ou ética humana? No final de contas, esta tecnologia reflete os valores e princípios daqueles que a criam e utilizam. É uma extensão da nossa moralidade e, por isso, a responsabilidade final recai sobre nós. Como disse recentemente o novo Diretor de IA da NASA, David Salvagnini, “A IA não é responsável pelo resultado, as pessoas são. Temos de estar conscientes das nossas responsabilidades”.

Seremos nós as personagens de um romance de Asimov ou estamos mais próximos da distopia de Matrix? A IA coloca-nos diante de dilemas éticos profundos. Será que estamos prontos para tomar o “comprimido vermelho” e enfrentar a dura realidade sobre a nossa dependência tecnológica, mas ao encará-la controlamos a narrativa e conseguimos estar preparados? É essencial que continuemos a aprender e a adaptar-nos, com toda a curiosidade que nos caracteriza, mas sempre com um olhar (auto) crítico.

A verdade é que a IA, e abundância consequente, poderá chegar a todo o lado exceto àquilo que queiramos que chegue, pois é determinante que sejamos nós os arquitetos e ganhemos os desafios que a humanidade enfrenta atualmente.