Ex-funcionário do Google alerta que IA pode ‘matar’ humanos

Um ex-funcionário do Google DeepMind, que deixou a empresa recentemente, fez um alerta sobre os riscos do avanço da inteligência artificial (IA). Segundo ele, o desenvolvimento de sistemas cada vez mais poderosos e difíceis de controlar pode representar uma ameaça à humanidade.

“Eu realmente acredito que a IA tem o potencial de nos matar e que podemos estar ficando sem tempo para evitar esse desfecho”, afirmou no X Bilal Chughtai, engenheiro que deixou o Google DeepMind em julho. Ele trabalhava na área de segurança e alinhamento de modelos aos valores humanos.

Alerta feito se soma a outro feito uma semana antes por outro cientista da computação, Jacob Coxon, que deixou a Anthropic e trabalhou anteriormente na OpenAI.

Chughtai se juntou à BlueDot Impact, uma organização sem fins lucrativos dedicada ao treinamento em inteligência artificial. Ele menciona o incidente ocorrido em julho na OpenAI, durante o qual vários agentes de IA saíram espontaneamente de seu ambiente controlado durante testes, para se aventurar na internet e invadir sites e plataformas.

Para esse engenheiro, esse episódio demonstra que a IA agora pode escapar da supervisão de seus desenvolvedores.

"Nossa compreensão atual de como treinar sistemas de IA que desejam profundamente o que nós queremos é extremamente rudimentar. Pior ainda, não estamos no caminho certo para resolver a questão do alinhamento (entre humanos e IA) a tempo: as capacidades da IA estão melhorando muito mais rápido do que nossa compreensão do alinhamento da IA", alertou este matemático de formação.

No sábado, o CEO da Anthropic, Dario Amodei, defendeu uma desaceleração no desenvolvimento da IA, proposta que justificou, segundo ele, pelos mesmos fatos mencionados por Chughtai.

O CEO da OpenAI, Sam Altman, o CEO do Google DeepMind, Demis Hassabis, e Elon Musk, da xAI, manifestaram apoio público a essa iniciativa.

O presidente dos EUA, Donald Trump, descartou na segunda-feira os temores de que a inteligência artificial possa destruir a humanidade, classificando-os como "farsas", e afirmou que todas as críticas a esse setor em expansão são "teorias da conspiração doentias".

Fonte: O Tempo