A OpenAI anunciou que baniu várias contas associadas a atividades ilícitas, incluindo ligações à polícia chinesa, esquemas de burla romântica e operações de influência política. A revelação consta de um relatório citado pela ‘Reuters’, que detalha casos de utilização indevida da tecnologia ChatGPT.
Segundo a ‘Reuters’, a empresa identificou contas que recorriam ao chatbot em articulação com redes sociais e outras ferramentas digitais para cometer cibercrime. Entre as práticas detetadas estavam a criação de falsas agências de encontros, a simulação de escritórios de advogados e a personificação de autoridades americanas com o objetivo de enganar vítimas.
Um dos casos envolve um pequeno grupo de contas, alegadamente com origem na China, que utilizou os modelos da OpenAI para recolher informações sobre cidadãos dos Estados Unidos, fóruns online e localizações de edifícios federais. As mesmas contas terão ainda procurado orientações sobre software de troca de rostos e redigido e-mails em inglês dirigidos a autoridades estaduais e analistas de políticas públicas, convidando-os para consultorias remuneradas.
A ‘Reuters’ refere também que a OpenAI baniu uma conta ligada a um indivíduo associado à polícia chinesa, cuja atividade incluía a alegada coordenação de uma operação secreta de influência contra Sanae Takaichi, apontada como a primeira mulher a ocupar o cargo de primeira-ministra do Japão.
Outro esquema identificado envolvia um grupo de contas que utilizou o ChatGPT para apoiar um golpe de namoro direcionado a homens na Indonésia. De acordo com a OpenAI, o chatbot foi usado para gerar textos promocionais e anúncios para um serviço de encontros falso, pressionando as vítimas a realizar tarefas que implicavam pagamentos elevados. A empresa estima que o esquema pudesse estar a lesar centenas de pessoas por mês.
Além disso, várias contas recorreram aos modelos da OpenAI para se fazerem passar por advogados e agentes das autoridades americanas, visando vítimas de fraude.
O relatório agora divulgado procura reforçar o compromisso da empresa em monitorizar e travar o uso abusivo da inteligência artificial, numa altura em que cresce a preocupação global com a utilização de ferramentas generativas para fins criminosos e campanhas de desinformação.
