Randstad Insight: Um autoritarismo chamado Inteligência Artificial

Por Gonçalo Vilhena | CIO da Randstad Portugal

No mundo em constante evolução, onde a paisagem do progresso da inteligência artificial (IA) se assemelha à primavera onde o florescimento nos inquieta e entusiasma, a integração da IA na força de trabalho provoca debates sobre o seu impacto no papel humano e na produtividade. Estudos recentes começam a reflectir sobre os efeitos da utilização da IA num trabalhador da área do conhecimento, introduzindo conceitos de “centauros” versus “cyborgs” para descrever a polarização da interacção entre humanos e a IA. Os centauros utilizam a IA como uma ferramenta para aumentar as suas capacidades, onde conseguimos verificar que este efeito amplificador é muito mais eficiente nas skills em que somos menos proficientes com incrementos superiores a 40% e muito menos impactantes (cerca de 10%) naquelas que somos especialistas. Do outro lado os “cyborgs” que integram a IA numa maneira mais preocupante pois tornam-se autómatos da IA.

Num estudo experimental conduzido em Setembro do ano passado, uma equipa de recrutadores ficou encarregue de avaliar candidaturas a uma posição de engenharia de software, com ênfase na capacidade matemática. Os recrutadores foram aleatoriamente munidos com ferramentas de IA de diferentes níveis de desempenho para auxiliar na tomada das decisões. Este cenário visou explorar como os recrutadores reagem aos conselhos do algoritmo e se a qualidade da assistência da IA influencia ou não as suas escolhas no que diz respeito à selecção de pessoas. O objectivo seria perceber se a IA poderia ajudar a resolver as preocupações de que os candidatos fossem capazes de manipular algoritmos de Recursos Humanos para contornar processos automatizados de triagem de currículos.

O estudo revelou que IA de alta qualidade levou recrutadores à complacência, diminuindo a capacidade crítica e de análise, resultando em decisões de contratação enviesadas. Este fenómeno, denominado “adormecer ao volante”, sugere que a dependência excessiva da IA pode prejudicar a aprendizagem e a produtividade humana. Da mesma forma, consultores que usaram IA na experiência mostraram resultados menos precisos, apesar de uma aparente melhor apresentação dos resultados, destacando os riscos da confiança acéfala e acrítica nas capacidades da IA.

Um inquérito conduzido pela Staffing Industry Association, revelou que a maioria dos trabalhadores no Reino Unido prefere a interacção humana na procura de emprego, realçando o valor do julgamento humano no recrutamento. Esta preferência está alinhada com preocupações sobre a abordagem “cyborgs”, onde a dependência excessiva de IA pode levar a um declínio nas competências e no discernimento humano.

As implicações são significativas. Com a integração crescente da IA na nossa vida profissional, existe o risco dos trabalhadores se tornarem excessivamente dependentes da IA, o que pode levar a uma força de trabalho menos qualificada e mais suscetível aos impactos negativos da automação. Este cenário não afecta apenas as carreiras individuais, mas também pode ter implicações sociais mais amplas, incluindo o perigo de um regime autoritário dominado pela tomada de decisões da IA, um dos cenários que pode levar ao declínio e término da humanidade controlada pela IA.

Para mitigar estes riscos, é imperativo focar na regulamentação e formação adequada. Ao garantir que a IA é utilizada como uma ferramenta para ampliar as capacidades humanas em vez de as substituir, podemos preservar o factor humano, que é crucial em muitos contextos profissionais.

Em conclusão, embora a IA ofereça um potencial significativo para melhorar a produtividade e eficiência, é crucial manter um equilíbrio que preserve e autonomia humana. Ao defender uma abordagem “centauros” e implementar estruturas de formação e regulamentação robustas, podemos aproveitar os benefícios da IA enquanto nos protegemos contra os riscos de criar uma força de trabalho excessivamente dependente ou autoritária.

As lideranças devem agir para evitar que os talentos “adormeçam ao volante” no momento de adoptar da IA, garantindo um uso equilibrado que valorize o discernimento humano e evite a dependência excessiva da tecnologia.

Artigo publicado na Revista Executive Digest n.º 216 de Março de 2024