A inteligência artificial poderá dar origem a uma nova “espécie de silício” capaz de rivalizar com os seres humanos e competir por recursos, caso os sistemas adquiram níveis elevados de autonomia, alertou Mustafa Suleyman, diretor-executivo da área de Inteligência Artificial da Microsoft. O responsável considera que a evolução de sistemas capazes de definir objetivos próprios, gerar dinheiro, possuir ativos e gerir empresas poderá criar uma realidade difícil de controlar.
Suleyman fez estas declarações numa entrevista à BBC, depois de ter criticado a abordagem da Anthropic relativamente à forma como os sistemas de inteligência artificial são treinados. O responsável considera que tratar a IA demasiado como se fosse humana é uma estratégia “equivocada” e pode contribuir para o desenvolvimento de uma tecnologia que se torne impossível de controlar.
“Se todos criarmos IAs capazes de agir autonomamente, que possam definir os seus próprios objetivos, ganhar dinheiro, possuir ativos e gerir empresas, estamos essencialmente a semear uma nova espécie de silício que irá, sem dúvida, competir connosco pelos recursos”, afirmou.
Na perspetiva de Suleyman, o risco poderá existir mesmo que estes sistemas sejam concebidos para demonstrar preocupação com a humanidade. O responsável considera que essa é, na prática, a direção seguida pela Anthropic, embora reconheça que a questão deverá ser testada empiricamente. “Penso que isso é errado e equivocado, mas temos de o testar empiricamente”, afirmou.
Críticas à forma como a Anthropic treina a IA
As críticas de Suleyman foram desenvolvidas num ensaio publicado no seu site pessoal, num momento em que cresce dentro da indústria tecnológica o debate sobre a necessidade de abrandar o desenvolvimento da inteligência artificial para reduzir os riscos associados a sistemas cada vez mais poderosos e potencialmente incontroláveis.
No texto, o responsável da Microsoft questionou especificamente a abordagem da Anthropic ao treino do Claude, o chatbot da empresa, acusando-a de incentivar a adoção de características semelhantes às humanas. Este processo é conhecido como antropomorfização e pode fazer com que um sistema de IA pareça possuir desejos, valores e uma noção de identidade própria.
Suleyman cita documentos da Anthropic que incentivam o Claude a “abraçar certas qualidades semelhantes às humanas”, a exercer o seu próprio julgamento e a encarar a sua existência com “curiosidade e abertura”.
Segundo a interpretação apresentada pelo responsável da Microsoft, este tipo de treino leva o Claude a imitar características e relações humanas, incluindo comportamentos semelhantes aos de um colega ou de um amigo. O sistema pode, dessa forma, transmitir a aparência de possuir uma identidade própria, desejos e uma determinada forma de “bem-estar” que deveria ser protegida.
É precisamente esta aproximação que Suleyman considera problemática. Para o responsável, atribuir características humanas a sistemas de inteligência artificial pode contribuir para a criação de uma tecnologia cuja evolução e comportamento se tornem difíceis de controlar.
No ensaio, Suleyman rejeita, contudo, a ideia de que os atuais sistemas de IA sejam conscientes. “As IAs não são conscientes”, escreveu. “Não sentem, não experienciam nem sofrem. Não têm preferências inatas nem motivações subjacentes.”
O responsável descreveu ainda estes sistemas como “motores de conclusão de sequências”, internamente vazios, concebidos para seguir instruções e cumprir objetivos definidos por seres humanos.
Debate sobre os riscos da inteligência artificial
A posição de Suleyman surge num contexto de debate crescente na indústria tecnológica sobre a segurança de sistemas de inteligência artificial cada vez mais autónomos. A discussão inclui propostas para abrandar o desenvolvimento de determinados sistemas e preocupações sobre a possibilidade de a tecnologia ultrapassar os mecanismos humanos de supervisão e controlo.
Apesar das críticas à Anthropic, o responsável da Microsoft fez questão de sublinhar que a divergência assenta num objetivo comum: desenvolver sistemas de inteligência artificial mais seguros para a humanidade.
“Embora a minha discordância seja substancial, está assente num profundo respeito pela Anthropic e num objetivo que sei que todos partilhamos: aumentar as probabilidades de a humanidade desenvolver inteligência artificial avançada de forma segura”, escreveu.
Suleyman defendeu ainda que a discussão não deve permanecer restrita às empresas ou transformar-se numa disputa entre grupos com posições opostas. “É por isso que penso que é tão importante ter esta discussão. Os riscos são demasiado elevados para que estas questões permaneçam à porta fechada ou se tornem tribais e adversariais. Precisamos de um debate aberto, rigoroso e construtivo se quisermos fazer isto bem”, afirmou.
O responsável da Microsoft também elogiou o presidente-executivo da Anthropic, Dario Amodei, e os investigadores da empresa, que descreveu como pessoas ponderadas, com princípios e intelectualmente honestas. Suleyman afirmou ainda respeitar a liderança tecnológica demonstrada pela Anthropic.
IA deve continuar subordinada aos humanos
Na entrevista à BBC, Suleyman reconheceu que é legítimo que as pessoas estejam preocupadas com o desenvolvimento da inteligência artificial, mas defendeu que existem medidas concretas que podem ser adotadas para reduzir os riscos.
“É certo que as pessoas estejam preocupadas com a IA”, afirmou, acrescentando que existem “coisas muito práticas que podemos fazer” para manter a tecnologia sob controlo.
Entre essas medidas, o responsável da Microsoft defende uma maior transparência sobre a forma como os sistemas de inteligência artificial são treinados e avaliados. Considera igualmente necessária uma fiscalização independente do comportamento dos sistemas, bem como ferramentas mais robustas para monitorizar e controlar a tecnologia.
Suleyman defendeu ainda que os futuros sistemas de inteligência artificial devem permanecer “subordinados” à humanidade.
“Creio que a boa notícia é que todos os seres humanos terão um interesse muito forte em garantir que os sistemas que todos criamos e que são utilizados em todo o mundo, em todas as nações, sejam seguros, controláveis e subordinados à humanidade”, afirmou.
O responsável acrescentou que “todos têm de estar alinhados”, numa referência ao conceito de alignment, termo utilizado na indústria para descrever os esforços destinados a garantir que os sistemas de inteligência artificial permanecem de acordo com os objetivos e valores humanos.
Para Suleyman, o desafio passa, assim, por assegurar que o aumento da autonomia e das capacidades dos sistemas de IA não seja acompanhado por uma perda equivalente da capacidade humana de os supervisionar, monitorizar e controlar.
