A ficção científica, por exemplo, habituou-nos a cenários em que as máquinas conduzem carros, fazem diagnósticos médicos, escolhem investimentos e, em última instância, substituem o julgamento humano. Nestes exemplos, a IA não exclui os seres humanos da equação; pelo contrário, permite-lhes tomar decisões de forma mais estratégica, deixando as tarefas monótonas de implementação a cargo das máquinas. Consequentemente, estas máquinas tornam-se ferramentas inteligentes que ajudam o utilizador, mas não tomam decisões por ele.
Há uma ideia recorrente sempre que falamos de IA: a de que caminhamos inevitavelmente para um mundo onde as máquinas vão decidir por nós, investir por nós e pensar por nós. Porém, o verdadeiro potencial da tecnologia não está na substituição do que é humano. Está na construção de sistemas capazes de melhorar a decisão humana sem lhe tirar responsabilidade. Na verdade, já convivemos diariamente com esse modelo. Uma aplicação de navegação em tempo real é, talvez, o exemplo mais simples e poderoso. O software analisa milhares de dados em tempo real, aprende padrões, prevê congestionamentos e recalcula trajetos constantemente. Os sistemas adaptam-se e apresentam alternativas. O humano decide. É precisamente este equilíbrio que deve orientar a evolução da IA.
Hoje, grande parte do debate sobre a IA gira em torno da automação total. Discute-se mesmo a possibilidade de sistemas capazes de substituir profissionais por inteiro. As máquinas, efetivamente, conseguem processar informação mais rapidamente do que nós, identificar padrões invisíveis ao olho humano e prever falhas. Contudo, isso não significa que compreendam o contexto humano das consequências. Falta-lhes discernimento, raciocínio crítico, memória histórica, contexto social e sensibilidade emocional. É justamente aí que começa o dilema da autonomia.
Evidentemente há situações em que queremos que a máquina intervenha sem hesitação. Por exemplo, um sensor de proximidade que trava automaticamente um carro para evitar um acidente ou um sistema que identifica um risco crítico numa bateria elétrica. Nestes casos, a tecnologia protege-nos porque reduz o tempo entre detetar e reagir. Ainda assim, estes cenários são exceções, não a regra.
Assim, o verdadeiro desafio não é criar máquinas que mandem, mas que saibam aconselhar. Sistemas que ofereçam apoio à decisão, seja à de venda, de manutenção ou estratégica. Para isso não basta dar respostas. É preciso, sim, justificar as recomendações. Precisamos de perceber o porquê. Porque é que aquele componente precisa de ser substituído? Porque é que aquele cliente representa uma oportunidade? Porque é que aquele trajeto é mais eficiente? Porque é que aquele comportamento representa um risco? A confiança nasce da explicação.
Sem transparência, a IA transforma-se numa espécie de pensamento mágico moderno: a produção de respostas sem que o processo seja claro. Isto é particularmente perigoso quando aplicamos a IA em contextos críticos. No fundo, todos queremos perceber como construir uma relação saudável com este tipo de tecnologias. O segredo não passa pela entrega cega de autonomia, mas pela construção gradual de confiança. E a confiança tecnológica, tal como nas relações interpessoais, nunca é instantânea. É construída através da experiência e da previsibilidade.
A ameaça não está na IA. Está na tentação humana de abdicar do pensamento crítico em troca de conveniência. Por isso, a competência mais importante nesta era não é saber programar, mas continuar a saber questionar. No momento em que deixarmos de exigir explicações, deixaremos de exercer responsabilidade sobre as decisões que nos afetam.
Afinal, aquilo que queremos da tecnologia não é obediência automática nem autonomia absoluta. Queremos um copiloto. Um sistema que trabalhe em silêncio nos bastidores, que faça simulações, que identifique riscos e que apresente alternativas, mas que deixe sempre a última palavra ao humano. Porque o verdadeiro dilema da autonomia não é tecnológico, mas humano. O poder de decisão estratégica deve continuar na mão do humano.
