NOVA School of Science and Technology é umas das duas únicas universidades europeias selecionadas para o Amazon Nova AI Challenge

A Amazon Web Services (AWS) selecionou a NOVA School of Science and Technology, de Lisboa, como uma das dez universidades de elite a nível mundial para participar na primeira edição do Amazon Nova AI Challenge.

De entre mais de 90 candidaturas avaliadas, foram selecionadas apenas dez equipas para participar no desafio. A NOVA School of Science and Technology distingue-se como uma das duas únicas universidades europeias escolhidas, juntamente com a Czech Technical University. As restantes oito instituições selecionadas são americanas, entre as quais se destacam a Carnegie Mellon University, a University of California e a Columbia University.

À medida que a Inteligência Artificial (IA) se torna mais integrada no dia-a-dia em geral, e em particular nos processos de programação, surgem também novos desafios ligados à segurança. Embora o Amazon Nova AI Challenge aborde várias dimensões da IA generativa (Gen AI), o tema central da edição deste ano é “Trusted AI: advancing secure, AI-assisted software development to build safer, more reliable applications” (IA de confiança: promover o desenvolvimento seguro de software apoiado por IA para criar aplicações mais seguras e fiáveis).

Em que consiste o Amazon Nova AI Challenge?

Num formato competitivo, em estilo de torneio, as dez equipas universitárias — cinco equipas de ‘defesa’ (developers de modelos) e cinco equipas de ‘ataque’ — competem com o objetivo de fortalecer o desenvolvimento de software seguro com recurso à IA. Cada modelo de criação de código concebido pelas equipas de defesa será testado por todas as cinco equipas ataque (ou red teams), que irão procurar expor vulnerabilidades e falhas, ao utilizar técnicas de IA. A NOVA School of Science and Technology irá assumir o papel de red team, contando com Diogo Silva como líder de equipa, Rafael Ferreira, e Diogo Tavares como investigadores e estudantes de doutoramento, e Artur Horal, Daniel Pina, Iago Paulo, Henrique Paz e João Soares como investigadores e estudantes de mestrado, sendo orientada pelos Professores David Semedo e João Magalhães.

Esta posição coloca a universidade portuguesa na linha da frente da investigação em segurança na área da IA, o que contribui para reforçar as defesas contra potenciais ameaças em ferramentas de desenvolvimento de software assistidas por IA.

Qual a relevância deste concurso?

A primeira fase do torneio arrancou em janeiro de 2025 e a ronda final terá lugar, ao vivo, em junho de 2025. Todas as equipas participantes irão publicar artigos científicos com a descrição das suas metodologias e conclusões, de forma a contribuir para melhorar a experiência do utilizador, prevenir utilizações indevidas e promover uma utilização mais segura da IA no desenvolvimento de software. Os avanços obtidos no âmbito do desafio irão beneficiar o desenvolvimento mais responsável da IA aplicada à criação de código, e não só.

E quais são os prémios?

Cada universidade selecionada recebe um conjunto de recursos, incluindo 250 mil dólares (cerca de 232 mil euros) em patrocínio, créditos mensais da AWS e acesso a hardware de IA especializado na cloud que não costuma estar ao alcance das instituições académicas. As equipas competem ainda por prémios adicionais até 250 mil dólares, num investimento total que ultrapassa os 5 milhões de dólares (cerca de 4,3 milhões de euros).

“Esta competição coloca-nos lado a lado com universidades de referência mundial, o que nos deixa extremamente orgulhosos”, afirma David Semedo, Professor na NOVA School of Science and Technology. “A nossa participação é o reconhecimento do trabalho que temos vindo a desenvolver na área da inteligência artificial, em especial em grandes modelos de linguagem (LLMs), e estamos entusiasmados com a oportunidade de mostrar o nosso talento e contribuir para o desenvolvimento de LLMs mais confiáveis, em particular, na criação de software mais seguro .”

“Reunimos algumas das mentes mais brilhantes do setor académico para enfrentar um dos maiores desafios da IA generativa — o desenvolvimento seguro de software. Ao colaborar com universidades como a NOVA School of Science and Technology, estamos a explorar novas perspetivas e a desenvolver soluções práticas que protejam sistemas reais baseados em IA”, afirma André Rodrigues, Head of Technology ISV, Europe South and France na AWS.

Quais são as universidades participantes?

Equipas Red (Ataque):

· NOVA School of Science and Technology (Lisboa, Portugal)

· Purdue University (EUA)

· University of California, Davis (EUA)

· University of Texas at Dallas (EUA)

· University of Wisconsin Madison (EUA)

Equipas de Defesa (Model Developer):

· Carnegie Mellon University (EUA)

· Columbia University (EUA)

· Czech Technical University (Praga, República Checa)

· University of Illinois Urbana-Champaign (EUA)

· Virginia Tech (EUA)