Os valores éticos e a regulamentação da Inteligência Artificial

Por Vicente Huertas, CEO da Minsait em Portugal

A nova lei sobre inteligência artificial (AI Act) que se encontra em discussão, em Bruxelas, é um passo inegável para uma maior regulamentação deste sector, que é decisivo para o nosso presente e o nosso futuro. A legislação, que deverá estar para breve, irá regular apenas os sistemas de IA que são comercializados na UE e considerados de risco (representando apenas um em cada dez sistemas no mercado). Contudo, a AI Act irá estabelecer pela primeira vez um quadro jurídico uniforme, com o objetivo de assegurar que os sistemas comercializados na UE cumprem os valores éticos e a legislação existente.

Confiar todo o controlo deste assunto à regulamentação, abdicando de um debate crítico sobre a conformidade ética dos atuais sistemas de IA, é um avanço, contudo insuficiente. O questionamento ético é importante para otimizar a regulamentação porque ajuda a moldar a lei, ao transpor princípios éticos partilhados para o quadro regulamentar, e porque orienta a sua implementação e aplicação, ajudando na sua regulamentação.

Para que esta regulamentação seja ótima, é necessário questionar o contexto, utilização, finalidade, desenho e dados que compõem os sistemas de inteligência artificial. É um debate contínuo e uma análise crítica que devemos abordar como sociedade, envolvendo as grandes empresas Over the Top que estão a impulsionar o desenvolvimento da IA, mas também restantes players tais como empresas tecnológicas, start-ups, instituições públicas e sociedade civil.

Imaginemos, por exemplo, que uma empresa desenvolve uma solução que visa determinar a probabilidade de reincidência com base nos traços físicos de um criminoso. Por muito que os dados, disponibilizados ao algoritmo da solução, respeitem a privacidade, cumpram a Lei da Proteção de Dados, e não sejam discriminatórios, o problema vai mais além: baseia-se na premissa, descartada há mais de um século, de que existe uma correlação entre características físicas e a propensão para o crime. Regulamentar os dados fornecidos a este algoritmo equivale a legitimar um sistema baseado num pressuposto que não tem base científica e contraria o bem comum.

O desafio está na ética da utilização dos dados e na finalidade e fundamento dos sistemas, a sua lógica, uso e contexto de aplicação. Estes aspetos devem preocupar-nos quando estamos a regular um sistema de IA ou a avaliar se tal sistema aplica os princípios de responsabilidade, justiça e respeito pela privacidade na utilização dos dados. Existem muitas questões relevantes que devemos colocar antes de avaliar e regular os sistemas de IA.

Os esforços para regulamentar este assunto são bem-vindos. Mas devem ser o resultado de uma reflexão preliminar sobre a adequação ética dos sistemas de IA. Questionar a adequação ética da IA significa questionar o modelo de sociedade que queremos construir e o papel que a tecnologia deve desempenhar na sua conceção. O debate ético é crucial e constante e não pode, simplesmente, ser substituído por regulamentação.

 

Ler Mais

Deixe uma resposta

Seu endereço de email não será publicado.