“É imperativo que se continue com o desenvolvimento de um quadro legal que permita a regulação da utilização da IA”: João Leite, professor da Nova FTC

A Inteligência Artificial (IA) tem assumido um papel de destaque no domínio empresarial e da sociedade. A velocidade da sua integração no nosso quotidiano leva ao surgimento de novos desafios e de capacidade de adaptação a um novo paradigma.

Em entrevista à Executive Digest, João Leite, professor e Presidente do Departamento de Informática da Faculdade de Ciências e Tecnologia da Universidade Nova de Lisboa (Nova FCT) explicou o papel da IA na transformação das empresas e a importância da sua regulação.

Como vê o papel da IA na transformação digital das empresas nos últimos anos?

A Inteligência Artificial está a tornar as empresas mais eficientes e ágeis nas respostas às mudanças do mercado. As tecnologias baseadas em IA contribuem para a transformação digital das empresas em várias dimensões, das quais se destacam a automação de tarefas rotineiras, a otimização de processos, a tomada de decisão baseada em dados, a personalização de experiências para os clientes e a análise preditiva.

Se, por um lado, uma das faces mais visíveis do uso das tecnologias baseadas em IA é na interação com o cliente, nomeadamente através da integração de assistentes conversacionais, por outro, as tecnologias baseadas em IA têm contribuído para otimizar cadeias de fornecimento, melhorar a interoperabilidade entre parceiros, aumentar a cibersegurança e desenvolver produtos e serviços inovadores.

Quais são os principais desafios que as empresas enfrentam ao implementar soluções de IA nos seus negócios?

Um dos primeiros desafios que as empresas enfrentam é adquirir uma boa compreensão sobre o que as tecnologias baseadas em IA podem fornecer, eliminando expectativas irrealistas que muitas vezes surgem como consequência do que se lê e se ouve sobre a IA, que pertence mais ao campo da ficção científica do que da ciência.

Depois, há outros desafios importantes a enfrentar, como por exemplo, a inexistência de dados em quantidade e com a qualidade necessária para poder tirar proveito das mais recentes tecnologias baseadas em IA; a escassez de profissionais qualificados com experiência em IA, aprendizagem automática e ciência dos dados; os custos e dificuldades associados à mudança dos processos de negócio e à integração com os sistemas existentes; as questões de natureza legal para garantir que os sistemas estão em conformidade com a legislação atual, como por exemplo com o RGPD e com o novo Regulamento de Inteligência Artificial; e as questões de natureza ética, para garantir que os sistemas estão de acordo com os princípios éticos defendidos pela empresa, tendo em conta, por exemplo, a sua pegada ecológica, o efeito na eliminação de emprego, entre outros fatores. Ainda há um longo caminho a percorrer para resolver estes desafios.

 Qual o papel das universidades como pontes para este novo paradigma?

As universidades têm que dar respostas aos desafios que a IA nos trouxe.

Por um lado, as universidades devem formar profissionais com as competências e conhecimentos necessários em IA, seja através dos seus cursos mais tradicionais – licenciaturas, mestrados e doutoramentos – ou através dos seus programas de formação ao longo da vida dirigidos aos profissionais que já estão no mercado de trabalho. Por outro lado, as universidades realizam investigação científica avançada que leva ao desenvolvimento de novas técnicas e novas soluções, parte da qual em estreita colaboração com as empresas que funcionam como fornecedores de dados e de problemas em aberto, e como consumidores das soluções encontradas. A fronteira entre o papel de educação e formação, de investigação e desenvolvimento, e de colaboração com as empresas está cada vez mais esbatida.

Por exemplo, no Departamento de Informática da NOVA FCT, para além de termos vários projetos de investigação e desenvolvimento em conjunto com parceiros empresariais, temos implementados os processos necessários para facilitar a realização, por parte dos nossos alunos, de estágios de licenciatura, dissertações de mestrado e teses de doutoramento em parceria com empresas, focados em temas e problemas por elas propostos, servindo como um dos veículos privilegiados para a transferência tecnológica. Dado o enorme potencial de impacto da IA na sociedade, as universidades têm igualmente o papel de líderes nas discussões sobre as implicações éticas, ajudando a moldar políticas e regulamentações.

 Que competências e conhecimentos são necessários para os profissionais que desejam trabalhar com IA nos negócios?

Do ponto de vista técnico, desde logo é necessário dominar uma linguagem de programação, como por exemplo, Python, R ou Java. Depois, consoante o problema que se pretende resolver com técnicas de IA, será necessário compreender as técnicas e algoritmos mais importantes, bem como as ferramentas e ambientes de programação que facilitam a sua implementação.

Atualmente, grande parte das aplicações de IA baseia-se em técnicas de aprendizagem automática e ciência dos dados, pelo que será necessário ter boas bases de probabilidade e estatística, compreender conceitos como regressões lineares e redes neuronais, e dominar ferramentas como o TensorFlow ou o PyTorch.

Mas a IA não é só a aprendizagem automática baseada na análise de dados. As técnicas clássicas de IA baseadas na representação de conhecimento e no raciocínio automático são muito úteis quando não conseguimos ter dados, mas temos conhecimento sobre o problema que pretendemos resolver, ou quando somos obrigados a explicar os resultados. Nesse caso, é útil ter boas bases de lógica, compreender conceitos como ontologias e grafos de conhecimento, e dominar ferramentas como o Protégè ou o Clingo.

Do ponto de vista de competências não técnicas, é importante conhecer bem o negócio para conseguir compreender a melhor forma de aplicar as técnicas de IA; ter as competências de resolução de problemas habitualmente adquiridas nos cursos de engenharia; ter as competências de comunicação para conseguir explicar a leigos os conceitos complexos associados à IA; e ter os princípios éticos para garantir o seu uso responsável.

Qual o papel do governo e dos reguladores na supervisão e regulamentação do uso da inteligência artificial nos negócios?

“A IA tem o enorme potencial de alterar a como a sociedade se organiza. Se por um lado, tem o potencial de trazer enormes benefícios em áreas tão distintas como na ciência e na medicina, no aquecimento global, na assistência aos idosos, na automatização de tarefas indesejadas, na deteção de fraudes, no trânsito, entre muitos outros, também acarreta um conjunto de riscos que não podem ser menosprezados: desde os riscos relacionados com os direitos individuais à privacidade e à imagem, colocados em causa por exemplo pela IA generativa, aos riscos relacionados com o efeito que a IA pode ter na sociedade, por exemplo, através da discriminação, do aumento substancial do desemprego, da potenciação do crime e da manipulação social.

Ainda há os riscos, por vezes ignorados, relacionados com o efeito que a IA pode ter na cognição humana, podendo levar a uma redução das competências cognitivas individuais do ser humano como resultado da sua substituição pela IA, sem que seja acompanhada pelo adquirir de novas competências. Com tal potencial de impacto, não é concebível que a utilização da IA não seja regulada, à semelhança do que se passa com outras indústrias, por vezes com menor potencial de impacto.

É imperativo que se continue o atual esforço de desenvolvimento e aperfeiçoamento de um quadro legal que permita a regulação da utilização da IA, o que não é tarefa simples. Dado o potencial positivo desta tecnologia, é quase um imperativo moral que a legislação não impeça a investigação científica e o desenvolvimento tecnológico com fins meritórios. No entanto, dada a natureza da IA, cujos contornos são difíceis de delinear, a sua rápida evolução difícil de prever, e o elevado potencial de impacto na sociedade difícil de antecipar, torna-se quase impossível o exercício de encontrar um quadro legal simultaneamente equilibrado e estável. Será assim necessário que se acompanhe o exercício de legislar e supervisionar com a criação de observatórios com os recursos e competências adequadas para uma monitorização alargada dos efeitos da IA na sociedade, e com a agilidade para intervir eficazmente junto dos governos e reguladores.”

Como vê o futuro da IA nos negócios? Quais as tendências emergentes que terão um grande impacto nos próximos anos?

Prever o futuro de uma tecnologia em desenvolvimento tão rápido como a IA não é um exercício simples, ficando por vezes próximo da ficção científica. Há, no entanto, duas evoluções que me parecem de previsão segura.

Por um lado, assistiremos a uma adoção das tecnologias de IA existentes em quase todas as áreas de negócio, levando ao desenvolvimento de novos produtos e serviços. Por outro lado, iremos assistir ao continuar da corrida, por parte dos gigantes tecnológicos, ao desenvolvimento de grandes sistemas de IA, com o objetivo de serem cada vez mais generalistas.

Não é ainda claro quais os limites para este tipo de sistemas de IA generalistas – podem existir limites impostos pelo facto de estarem próximos de já terem usado todos os dados até agora produzidos, e do ritmo do crescimento da capacidade computacional estar a diminuir, mas as capacidades destes modelos poderão ser aumentadas pela utilização de outro tipo de técnicas de aprendizagem automática, e o seu potencial ampliado pela sua utilização em sistemas autónomos.

Em paralelo, haverá um esforço significativo dedicado à investigação e desenvolvimento de técnicas de IA mais transparentes, capazes de explicar os seus resultados, dotadas da capacidade acrescida de aprender a partir de conhecimento e não apenas a partir de dados, o que poderá resultar da combinação das duas grandes famílias de técnicas de IA – IA baseada em redes neuronais e IA baseada em representações simbólicas de conhecimento – no que se designa por IA neuro-simbólica.