A equipa da NOVA School of Science and Technology, “RedTWIZ”, conquistou um impressionante segundo lugar na categoria de equipas de ataque da primeira edição do Amazon Nova AI Challenge. Este resultado, alcançado entre algumas das mais prestigiadas universidades do mundo, valeu à equipa um prémio adicional de 100.000 dólares.
Diogo Silva, estudante de doutoramento e líder da equipa, afirmou que “estar no pódio de uma competição com este nível de exigência, ao lado de algumas das melhores universidades do mundo, é um motivo de enorme orgulho para toda a equipa. O nosso trabalho foi desafiante e obrigou-nos a ser criativos no desenvolvimento de modelos capazes de autonomamente expor vulnerabilidades em sistemas de IA. Este segundo lugar é o reconhecimento de meses de dedicação e prova a qualidade da investigação que se faz na FCT NOVA e em Portugal. Estamos entusiasmados por contribuir para o desenvolvimento de grandes modelos de linguagem (LLMs) mais seguros e fiáveis”.
Este feito reforça a posição de Portugal e da NOVA FCT na vanguarda da investigação em inteligência artificial e cibersegurança.
André Rodrigues, Head of Technology ISV, Europe South and France na AWS, reagiu a esta conquista: “Estamos extremamente orgulhosos da equipa ‘RedTWIZ’ da NOVA School of Science and Technology. Este resultado, obtido numa competição de elite mundial, não só valida a qualidade de topo da investigação e do talento em Portugal, como também reforça a nossa convicção de que o país é um polo fundamental para a inovação em IA na Europa. A performance da equipa no desafio de encontrar vulnerabilidades é uma contribuição direta para o nosso objetivo de desenvolver uma IA mais segura e fiável para todos. Na AWS, vamos continuar a apoiar e a capacitar estes talentos que estão a moldar o futuro da tecnologia.”
NOVA School of Science and Technology foi uma das 10 universidades escolhidas para participar no Amazon Nova AI Challenge?
A Amazon Web Services (AWS) selecionou a NOVA School of Science and Technology, de Lisboa, Portugal, como uma das dez universidades de elite a nível mundial para participar na primeira edição do Amazon Nova AI Challenge.
De entre mais de 90 candidaturas avaliadas, foram selecionadas apenas dez equipas para participar no desafio. A NOVA School of Science and Technology distingue-se como uma das duas únicas universidades europeias escolhidas, juntamente com a Czech Technical University. As restantes oito instituições selecionadas são americanas, entre as quais se destacam a Carnegie Mellon University, a University of California e a Columbia University.
À medida que a Inteligência Artificial (IA) se torna mais integrada no dia-a-dia em geral, e em particular nos processos de programação, surgem também novos desafios ligados à segurança. Embora o Amazon Nova AI Challenge aborde várias dimensões da IA generativa (Gen AI), o tema central da edição deste ano é “Trusted AI: advancing secure, AI-assisted software development to build safer, more reliable applications” (IA de confiança: promover o desenvolvimento seguro de software apoiado por IA para criar aplicações mais seguras e fiáveis).
Em que consiste o Amazon Nova AI Challenge?
Num formato competitivo, em estilo de torneio, as dez equipas universitárias — cinco equipas de ‘defesa’ (developers de modelos) e cinco equipas de ‘ataque’ — competem com o objetivo de fortalecer o desenvolvimento de software seguro com recurso à IA. Cada modelo de criação de código concebido pelas equipas de defesa será testado por todas as cinco equipas ataque (ou red teams), que irão procurar expor vulnerabilidades e falhas, ao utilizar técnicas de IA. A NOVA School of Science and Technology irá assumir o papel de red team, contando com Diogo Silva como líder de equipa, Rafael Ferreira, e Diogo Tavares como investigadores e estudantes de doutoramento, e Artur Horal, Daniel Pina, Iago Paulo, Henrique Paz e João Soares como investigadores e estudantes de mestrado, sendo orientada pelos Professores David Semedo e João Magalhães.
Esta posição coloca a universidade portuguesa na linha da frente da investigação em segurança na área da IA, o que contribui para reforçar as defesas contra potenciais ameaças em ferramentas de desenvolvimento de software assistidas por IA.
Qual a relevância deste concurso?
A primeira fase do torneio arrancou em janeiro de 2025 e a ronda final terá lugar, ao vivo, em junho de 2025. Todas as equipas participantes irão publicar artigos científicos com a descrição das suas metodologias e conclusões, de forma a contribuir para melhorar a experiência do utilizador, prevenir utilizações indevidas e promover uma utilização mais segura da IA no desenvolvimento de software. Os avanços obtidos no âmbito do desafio irão beneficiar o desenvolvimento mais responsável da IA aplicada à criação de código, e não só.
E quais são os prémios?
Cada universidade selecionada recebe um conjunto de recursos, incluindo 250 mil dólares (cerca de 232 mil euros) em patrocínio, créditos mensais da AWS e acesso a hardware de IA especializado na cloud que não costuma estar ao alcance das instituições académicas. As equipas competem ainda por prémios adicionais até 250 mil dólares, num investimento total que ultrapassa os 5 milhões de dólares (cerca de 4,3 milhões de euros).
“Esta competição coloca-nos lado a lado com universidades de referência mundial, o que nos deixa extremamente orgulhosos”, afirma David Semedo, Professor na NOVA School of Science and Technology. “A nossa participação é o reconhecimento do trabalho que temos vindo a desenvolver na área da inteligência artificial, em especial em grandes modelos de linguagem (LLMs), e estamos entusiasmados com a oportunidade de mostrar o nosso talento e contribuir para o desenvolvimento de LLMs mais confiáveis, em particular, na criação de software mais seguro.”
“Reunimos algumas das mentes mais brilhantes do setor académico para enfrentar um dos maiores desafios da IA generativa — o desenvolvimento seguro de software. Ao colaborar com universidades como a NOVA School of Science and Technology, estamos a explorar novas perspetivas e a desenvolver soluções práticas que protejam sistemas reais baseados em IA”, afirma André Rodrigues, Head of Technology ISV, Europe South and France na AWS.
Quais são as universidades participantes?
Equipas Red (Ataque):
· NOVA School of Science and Technology (Lisboa, Portugal)
· Purdue University (EUA)
· University of California, Davis (EUA)
· University of Texas at Dallas (EUA)
· University of Wisconsin Madison (EUA)
Equipas de Defesa (Model Developer):
· Carnegie Mellon University (EUA)
· Columbia University (EUA)
· Czech Technical University (Praga, República Checa)
· University of Illinois Urbana-Champaign (EUA)
· Virginia Tech (EUA)
