Entrámos na era dos programas e algoritmos concebidos para reproduzir o comportamento humano (inteligente). Desde que o ChatGPT foi lançado, a Inteligência Artificial (IA) ficou disponível para o público em geral trazendo a promessa de transformar para melhor o mundo que conhecemos. Tarefas que outrora pareciam da exclusiva competência humana, como escrever um texto, criar um anúncio ou atender clientes, são agora apoiadas, e quem sabe um dia substituídas, pela IA.
Mas será esta transformação para o bem ou para o mal da humanidade? A resposta depende da capacidade que tivermos para concretizar as promessas que a IA oferece, ao mesmo tempo que conseguimos mitigar os seus perigos. Isto porque, se por um lado a IA promete avanços extraordinários na saúde, na ciência, na educação, nos negócios, no marketing e em outras áreas do conhecimento, por outro levanta questões importantes sobre o futuro do trabalho, a coesão social, a equidade e a ética. Os investigadores identificam cinco grandes desafios que a IA coloca à humanidade na perspetiva do marketing1, mas que se podem estender a todas as áreas do conhecimento.
O primeiro desafio diz respeito à preservação das capacidades humanas. A dependência excessiva da IA para análise de problemas, produção de novos conteúdos e serviço ao cliente, entre outros, pode reduzir as capacidades de pensamento crítico e as competências criativas, conduzindo a uma erosão societal das capacidades humanas de resolução de problemas. Aliado a isto, podem surgir perdas de emprego à medida que a automação inteligente substitui pessoas, não apenas em funções pouco qualificadas, com tarefas rotineiras, mas também em profissões altamente especializadas.
O segundo desafio prende-se com a proteção das relações humanas e da autonomia do indivíduo. Os chamados “companheiros de IA empáticos”, como os assistentes pessoais e os robots cuidadores, podem reduzir a quantidade e a qualidade das interações humanas, enfraquecendo as competências interpessoais e conduzindo ao isolamento social. Este fenómeno pode ameaçar a coesão e os laços que sustentam a vida em comunidade. Além disso, a crescente “precisão preditiva” da IA e a dependência excessiva nas suas recomendações podem influenciar de forma desproporcionada as decisões pessoais, gerando uma sensação de perda de livre-arbítrio e uma perceção distópica de manipulação e controlo.
O terceiro desafio consiste em garantir que os benefícios da IA são distribuídos de forma equitativa a nível individual, empresarial e societal. É preciso evitar que a IA se torne um fator de aprofundamento das desigualdades sociais através da concentração dos seus benefícios nas mãos de grandes empresas, detentores de capital e de alguns países, ampliando a disparidade de riqueza. Além disso, a utilização da IA como se fosse um especialista humano, a par dos erros gerados pelas “alucinações” da IA, pode propagar informação falsa, minando a confiança nos profissionais e nas instituições.
O quarto desafio prende-se com o potencial de enviesamento dos sistemas de IA que levanta preocupações éticas. Este enviesamento ocorre porque os algoritmos refletem os padrões presentes nos dados de treino podendo reproduzir preconceitos existentes e amplificá-los. Além disso, estes sistemas podem produzir respostas plausíveis, mas incorretas, com consequências graves em contextos críticos (as chamadas “alucinações” na IA generativa). A falta de supervisão humana, quer no carregamento de dados, quer na verificação dos resultados da IA, pode agravar este problema comprometendo a equidade e a confiança nos resultados.
O quinto e último desafio consiste em garantir que se concretiza a verdadeira promessa da IA, ou seja, que esta contribua para o bem-estar humano e para o bem-estar da sociedade como um todo, e não se limite a objetivos meramente comerciais. Este desafio está a ser posto em causa pelo foco excessivamente estreito nas aplicações empresariais. Atualmente, grande parte das discussões sobre IA centram-se nos benefícios comerciais, negligenciando o seu potencial para promover a inclusão e o impacto social positivo. Além disso, o indivíduo está a ser negligenciado. Existe o risco de a IA ser usada apenas para automatizar processos e aumentar a produtividade, sem empoderar as pessoas ou promover o seu crescimento.
Se a tecnologia avançar à custa do desenvolvimento humano perderemos a oportunidade de criar uma sociedade mais equilibrada e inovadora. No entanto, para avançar de forma segura é necessário estabelecer diretrizes claras para o desenvolvimento da IA, assegurar conformidade regulatória e encontrar um equilíbrio entre a liberdade para inovar e a necessidade de supervisão e responsabilidade. Se as promessas da IA são vastas, os seus perigos também. A responsabilidade é de todos: individual, empresarial e societal.
1 Grewal, D., Guha, A., & Becker, M. (2024). AI is changing the world: Achieving the promise, minimizing the peril. Journal of Macromarketing, 44(4), 936-947. Grewal, D., Guha, A., & Becker, M. (2024). AI is changing the world: For better or for worse? Journal of Macromarketing, 44(4), 870-882.
