IA não vai poder manipular decisões das pessoas a partir de 2025. Estas são as novas proibições impostas pela UE

No passado dia 1 de agosto, entrou em vigor uma nova legislação da União Europeia destinada a regular o uso de sistemas de Inteligência Artificial (IA) no continente. Este regulamento, aprovado em dezembro de 2023 após negociações com os Estados-Membros, procura proteger os direitos fundamentais dos cidadãos e garantir a segurança perante os riscos associados a esta tecnologia emergente

O novo regulamento, que será monitorizado pelo AI Office, introduz uma série de proibições e obrigações baseadas no potencial de risco e impacto dos sistemas de IA. Entre as principais medidas estão restrições rigorosas sobre aplicações de IA que possam comprometer direitos civis e a privacidade.

A legislação proíbe o uso de IA para categorizar biometria sensível e para capturar imagens faciais indiscriminadamente, seja da internet ou de câmaras de vigilância, com o objetivo de criar bases de dados. Além disso, também estão banidos sistemas de IA que manipulam o comportamento humano ou exploram vulnerabilidades das pessoas.

O uso de IA para controlo populacional pelas forças de segurança é restrito e permitido apenas em casos específicos e bem definidos. Estes sistemas serão limitados a situações extremas, com controlo rigoroso de horário e local e requerem autorização judicial.

Os sistemas de IA aplicados em infraestruturas críticas, educação, serviços essenciais como saúde e bancos, além de processos judiciais e democráticos, terão que seguir diretrizes operacionais claras. A transparência será fundamental, com a obrigatoriedade de fornecer explicações claras sobre o funcionamento e as ações desses sistemas.

A nova lei também impõe requisitos de transparência, obrigando os sistemas de IA a marcar e mostrar direitos de autor e a publicar resumos detalhados sobre o conteúdo usado para a formação dos modelos.