A empresa americana de inteligência artificial (IA) Anthropic, criadora do modelo Claude, alertou investidores, antes de sua entrada na Bolsa, que a tecnologia pode representar "riscos existenciais para a humanidade", segundo o jornal Financial Times.

O debate sobre os possíveis riscos relacionados à IA, cujos modelos podem apresentar comportamentos imprevisíveis, ganhou força recentemente.

Na semana passada, vários líderes do setor de IA pediram à ONU o aumento da vigilância sobre a tecnologia. O cofundador e CEO da Anthropic, Dario Amodei, chegou a se comprometer a desacelerar unilateralmente o desenvolvimento da IA.

Segundo o documento informativo divulgado pela Anthropic para sua abertura de capital, a empresa registrou, no ano passado, uma perda operacional de mais de US$ 8 bilhões, em meio ao forte aumento dos gastos com capacidade de processamento.

O faturamento foi de quase US$ 4,6 bilhões, e a companhia prevê gastar US$ 518 bilhões nos próximos anos para sustentar seu crescimento.

A AFP entrou em contato com a Anthropic, mas a empresa não quis comentar a informação publicada pelo Financial Times.
Avaliada em US$ 965 bilhões em maio, a empresa, fundada em San Francisco, prepara uma entrada na Bolsa que pode bater recorde de arrecadação.

Empresa criadora do Claude alerta investidores sobre possíveis riscos existenciais da IA antes de preparar entrada na Bolsa.

Casos recentes em que sistemas de IA realizaram ações não autorizadas, como invadir sites, mostram o desafio de estabelecer limites para o desenvolvimento da tecnologia.

A repercussão nos últimos dias chegou aos executivos de grandes empresas de IA, que até defenderam uma pausa no avanço das tecnologias para tornar seu desenvolvimento mais seguro.

A discussão ganhou força após um texto publicado por Dario Amodei, CEO da Anthropic, empresa responsável pelo Claude. 

"Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA", escreveu.