Para onde nos conduz a Inteligência Artificial: Vamos lá chegar?
Por José Rui Simões, Business Development Manager do departamento de Automotive da Critical Software
Como adepto de ficção científica, sempre fui fascinado por mundos futuristas onde a tecnologia se integra perfeitamente nas nossas vidas diárias. Acho que já todos imaginamos um mundo onde não precisamos de conduzir o nosso carro e podemos usar as viagens para pôr a leitura em dia ou descansar. Na última década temos visto esta realidade cada vez mais próxima devido aos avanços no poder computacional disponível e na Inteligência Artificial (AI). É crucial percebermos a real capacidade da tecnologia atual, onde pretendemos ir e como lá vamos chegar.
Sou tecno-positivo e acho que, com tempo suficiente, a ciência e a tecnologia conseguem resolver qualquer problema da humanidade. Os últimos dois séculos parecem concordar com a minha visão. O ritmo da inovação tem sido cada vez maior e não parece abrandar, e acredito que a AI irá potenciar um novo salto civilizacional ao nível do conhecimento e da sua aplicação.
A minha carreira profissional esteve sempre ligada ao desenvolvimento de sistemas críticos, aqueles que quando falham normalmente implicam a perda de vida humana. Até aqui, eram desenvolvidos de forma determinística, ou seja, havia um conjunto de funcionalidades que estes sistemas implementavam e, por isso, era possível verificar que exerciam as tarefas, com um grau elevado de certeza, para as condições em que foram desenhados.
Com a AI tudo isso muda. São sistemas genéricos que são treinados para resolver problemas, sendo isto verdade até certo ponto, já que há sistemas mais aptos a resolver certo tipo de problemas do que outros. A grande desvantagem é que são altamente dependentes dos dados que foram usados para o treino. Por exemplo, uma AI que seja treinada para classificar animais, em que os dados de treino apenas incluam gatos, é provável que classifique um elefante como gato. Afinal, ambos têm quatro patas, uma cabeça e uma cauda.
O problema da condução autónoma (AD) é complexo. A tarefa é simples: levar o veículo do ponto A ao ponto B em segurança, cumprindo com a legislação em vigor. Ainda assim, resolver o problema na sua totalidade está longe de ser trivial. Acredito que conseguiria usar o resto deste artigo só para listar coisas que tornam o problema da AD dificílimo de ser resolvido.
Por exemplo, para atingirmos o nível SAE L3 de autonomia, os veículos têm de ser capazes de navegar autonomamente num ambiente definido (Operational Design Domain ou ODD). Mesmo sendo bastante restritivos na definição do ODD, como por exemplo, para um veículo que conduz na autoestrada, num dia de sol com boa visibilidade, existe o potencial de encontrarmos situações com pouca representatividade nos dados de treino da AI. Todos temos conhecimento de situações que, apesar de incomuns, acontecem: condutores em contramão, animais, veículos não autorizados, obras, acidentes, entre outros. Os sistemas de AD ainda não têm capacidade de lidar com todos estes casos que raramente encontram e aplicar o que nós chamamos de senso comum.
No nível L3 o condutor deve manter-se atento e capaz de assumir o controlo. No entanto, o que temos visto é que as pessoas confiam demasiado na tecnologia. Temos visto um de dois fenómenos a acontecer. Por um lado, o sistema está configurado para ser muito sensível e reage por excesso e em boa parte dos casos o condutor encontra forma de o desabilitar. Por outro, o sistema funciona bem e de forma pouco intrusiva, de tal forma que o utilizador assume que o carro vai lidar com todas as situações. Nestes casos, o condutor desliga tanto da tarefa de monitorizar o veículo que, quando o veículo o notifica que precisa de intervenção, é demasiado tarde para evitar o incidente.
Não quero com isto parecer cético da tecnologia, pois reconheço o seu potencial para tornar as estradas mais seguras e as viagens mais confortáveis. Penso que, por exemplo, a regulamentação UNECE R152, que incide sobre os sistema de Automatic Emergency Brake, é um passo positivo naquilo que o regulador vê como essencial que os veículos cumpram, permitindo estabelecer uma estratégia de validação. A AI terá um papel fundamental, mas tenho algumas reservas se conseguimos resolver o problema com a geração atual de conhecimento neste domínio. De igual forma, a maneira como desenvolvemos, validamos e homologamos os sistemas terá de mudar muito. Temos de ser capazes de, quando identificamos um problema, tratar da sua resolução e atualizar as frotas num espaço de dias. No fundo, ao mudarmos o paradigma para usar AI temos de ter a capacidade de mudar para um paradigma de melhoria contínua.
Acredito que a tecnologia tem um potencial tremendo de salvar vidas e de melhorar o conforto em muitas situações, mas ainda estamos numa fase de entusiasmo tecnológico. Precisamos de tempo para estabilizar as suas reais capacidades e as estratégias que usamos para desenvolver estes novos sistemas.