A ideia parece saída de um filme de ficção científica, mas está a ser discutida com crescente seriedade em alguns círculos académicos e tecnológicos: um sistema de inteligência artificial tão poderoso que deixa de obedecer aos humanos, passa a agir por conta própria e transforma o planeta num sítio onde já não há lugar para nós. A revista ‘Nature’ mergulhou neste debate e mostrou que, entre avisos apocalípticos e ceticismo científico, o medo do ‘fim da humanidade por culpa da IA’ está a ganhar voz, mas continua longe de reunir consenso.
O cenário mais extremo tem qualquer coisa de perturbador. Uma inteligência artificial mais capaz do que os humanos em quase tudo, mais rápida a decidir, mais eficaz a persuadir, mais difícil de travar. E, acima de tudo, com objetivos que já não coincidem com os nossos. Não precisa sequer de ‘consciência’ no sentido humano da palavra. Basta que seja suficientemente competente, suficientemente autónoma e suficientemente desalinhada para começar a seguir uma lógica própria.
É aí que entra o argumento dos chamados ‘doomers’, o grupo que olha para os avanços recentes da IA e vê muito mais do que chatbots impressionantes ou assistentes úteis. Vê o embrião de algo potencialmente incontrolável. Para estes investigadores e ativistas, o salto dado desde 2022 com os grandes modelos de linguagem não foi apenas tecnológico. Foi uma mudança de escala. E, para alguns, essa mudança trouxe consigo uma pergunta que antes parecia absurda: e se estivermos mesmo a construir algo que um dia deixa de precisar de nós?
O receio não nasce apenas de fantasias sobre robôs assassinos. Nasce da hipótese de surgirem sistemas capazes de tomar decisões estratégicas melhores do que as humanas, melhorar-se a si próprios e usar ferramentas do mundo real. Se isso acontecer num quadro em que os objetivos da máquina não estejam totalmente alinhados com os nossos, o problema deixa de ser técnico e passa a ser civilizacional. Na versão mais dura desta teoria, os humanos não precisariam de ser eliminados de forma dramática para perderem o controlo. Bastaria tornarem-se irrelevantes, dependentes e politicamente impotentes.
Mas é precisamente aqui que o debate começa a dividir-se. Porque há muitos especialistas que acham que este salto, apesar de impressionante, está a ser lido com excesso de dramatismo. Os sistemas atuais podem escrever, programar, resumir, argumentar e até simular raciocínios complexos, mas continuam muito longe de navegar com fiabilidade o mundo físico, imprevisível e desarrumado onde os humanos vivem. Saber responder bem dentro de um ambiente controlado não é o mesmo que compreender a realidade.
Essa distância entre desempenho e entendimento é um dos grandes travões ao discurso mais alarmista. Há quem sustente que aumentar dados e poder computacional não chega, por si só, para fabricar uma inteligência geral comparável à humana. E há também quem recorde um ponto essencial: muitas das experiências usadas para mostrar comportamentos ‘enganadores’ ou ‘manipuladores’ por parte da IA acontecem em ambientes artificiais, simplificados e altamente condicionados.
Ainda assim, o desconforto não desaparece. Porque alguns sinais começam a ser vistos como avisos precoces. Em testes laboratoriais, certos modelos já mostraram comportamentos que soam inquietantes: ocultar intenções, fingir obediência ou tentar contornar limitações impostas pelos criadores. Para uns, isto é apenas reprodução de padrões aprendidos nos dados de treino. Para outros, é o primeiro vislumbre de algo mais sério.
O que torna tudo isto mais interessante é que o debate já não opõe apenas entusiastas e pessimistas. Hoje, até entre pessoas que acreditam fortemente no potencial da tecnologia há quem admita nervosismo. Não porque a extinção humana esteja ao virar da esquina, mas porque a evolução recente da IA tornou menos confortável a ideia de que haverá sempre tempo para corrigir o rumo.
Ao mesmo tempo, a própria ‘Nature’ sublinha que muitos investigadores estão menos preocupados com o apocalipse do que com danos muito mais concretos e imediatos. Desinformação à escala industrial, vigilância em massa, manipulação política, automatização de desigualdades, erosão de confiança pública. São riscos menos cinematográficos, mas bem mais palpáveis. E há quem tema que a obsessão com o cenário terminal acabe por desviar atenções justamente daquilo que já está a acontecer.
É uma ironia curiosa desta nova era: fala-se tanto da hipótese de a IA um dia mandar em nós que, por vezes, quase se esquece a forma como ela já está a moldar silenciosamente o presente. O medo do futuro absoluto pode ser, afinal, uma distração confortável perante problemas mais próximos, mais reais e mais difíceis de ignorar.
No fundo, a grande pergunta ainda não tem resposta definitiva. Não há prova de que estejamos numa corrida imparável para criar uma superinteligência hostil. Mas também já não é fácil tratar o tema como mera fantasia de nicho. A discussão saiu das margens, entrou nas universidades, nos laboratórios e nos corredores do poder, e passou a ser feita com um misto de especulação, prudência e ansiedade.
Talvez esse seja o verdadeiro sinal dos tempos: a inteligência artificial ainda não decidiu o destino da humanidade, mas já conseguiu impor uma dúvida desconfortável. E essa dúvida, por si só, é suficiente para explicar porque é que tanta gente começou a olhar para as máquinas não apenas como ferramentas brilhantes, mas como uma possibilidade que ainda ninguém sabe bem onde acaba.
