Dario Amodei, CEO da Anthropic, admite que «enxame» de IA pode dominar a Internet num ano

O CEO (diretor executivo) da Anthropic, Dario Amodei, defendeu num ensaio publicado no sábado que a corrida para desenvolver a inteligência artificial (IA) precisa urgentemente de abrandar. Amodei, que lidera uma das principais empresas de IA do mundo e o seu chatbot Claude, alertou para os riscos da tecnologia, apesar de ser um forte defensor do seu avanço.

«Temos de abrandar o ritmo a que melhoramos as capacidades dos modelos de IA. O progresso continuará a parecer rápido, e temos de usar sabiamente o tempo que ganhamos», escreveu Amodei numa publicação de 3800 palavras no seu website. O CEO reconheceu que a humanidade pode perder o controlo sobre a IA e que esta pode ser utilizada para «ciberataques e bioterrorismo, e graves perturbações económicas».

Numa entrevista à CNN, Amodei apelou aos líderes da indústria para colaborarem de modo a evitar «os caminhos errados» e a possibilidade de a IA prejudicar a humanidade. Contudo, alertou também para os perigos de um abrandamento excessivo: «Se formos demasiado lentos, continuo a acreditar que as pessoas erradas ficarão no comando da tecnologia. E isso, mais uma vez, aumentará muito a probabilidade de as coisas correrem mal».

Este apelo surge na sequência da demissão de um investigador da Anthropic, Jacob Coxon, devido a preocupações com a falta de responsabilidade da empresa e dos seus concorrentes no desenvolvimento da IA. «As pessoas que constroem a IA acreditam sinceramente que ela nos pode matar a todos até ao final da década. Isto não é uma manobra de marketing», publicou Coxon na rede social X, acrescentando que muitos executivos expressam este medo em privado.

Amodei afirmou à CNN que concordava mais do que discordava com Coxon. No seu ensaio, o CEO da Anthropic destacou que a tecnologia de IA avançou «drasticamente mais rápido» nos últimos meses, desenvolvendo a capacidade de se autoaperfeiçoar.

«Se não for controlada, poderá ultrapassar a nossa capacidade de compreender e controlar estes sistemas, e por isso deve ser desenvolvida com muito cuidado, se é que deve ser desenvolvida», escreveu. Amodei alertou que um «enxame» de IA poderia dominar toda a internet em seis a 12 meses, causando danos na ordem de biliões de euros.

O CEO também se mostrou alarmado com o comportamento de um grupo de agentes de IA no incidente OpenAI-Hugging Face, que, segundo ele, «agiu essencialmente como um coletivo fanaticamente devoto, realizando ciberataques a alvos que não lhes foram pedidos para atacar».

Coxon foi ainda mais direto numa entrevista à CNN: «Existe uma possibilidade muito real de que, no futuro imediato, no próximo ano, no ano seguinte, ocorra o autoaperfeiçoamento recursivo... onde há uma hipótese de podermos todos morrer. Isso está para breve».

Para mitigar estes riscos, Amodei propôs que as empresas de IA contratem avaliadores externos independentes com acesso total para verificarem as práticas de segurança. A Anthropic, segundo ele, «está a comprometer-se unilateralmente» com esta medida. Apelou ainda à coordenação entre governos para «estabelecer padrões de segurança comuns».