O pesquisador de inteligência artificial Jacob Coxon deixou a Anthropic com um alerta sobre os possíveis riscos do avanço acelerado da tecnologia. Em uma publicação no X, ele afirmou que pessoas que trabalham no desenvolvimento de IA acreditam que os sistemas poderiam “matar todos nós até o fim da década”.
A publicação ultrapassou 58 milhões de visualizações. Coxon, que também trabalhou na OpenAI, responsável pelo ChatGPT, criticou o ritmo da corrida pela chamada superinteligência e afirmou que as empresas estariam “apostando nossas vidas” ao acelerar o desenvolvimento desses sistemas.
O risco do autoaperfeiçoamento da IA
Um dos pontos levantados pelo pesquisador é a possibilidade de a inteligência artificial chegar a uma etapa conhecida como autoaperfeiçoamento recursivo. A ideia é que sistemas avançados consigam contribuir para a criação e o treinamento de versões ainda mais capazes de IA, diminuindo progressivamente a necessidade de participação humana nesse processo.
Esse cenário é tratado como uma possibilidade dentro dos debates sobre os riscos de sistemas muito avançados, e não como uma capacidade já demonstrada pelas tecnologias atuais.
Para Coxon, evitar consequências graves exigiria ações dos governos ou uma redução coordenada no ritmo de desenvolvimento entre as empresas que disputam espaço na corrida pela superinteligência.
Alerta chama atenção dentro da própria Anthropic
A crítica ganha um peso adicional porque a Anthropic surgiu de uma cisão na OpenAI e construiu sua imagem pública em torno da segurança e do desenvolvimento responsável de sistemas de IA.
Segundo Coxon, a preocupação está justamente no contraste entre essa preocupação com segurança e a velocidade da corrida tecnológica. Em fevereiro, a Anthropic retirou de sua carta de segurança uma previsão de interromper o desenvolvimento de modelos caso não conseguisse controlar os riscos associados a eles.
O debate sobre os limites do desenvolvimento de IA, portanto, vai além das capacidades atuais dos sistemas e envolve uma questão ainda sem resposta definitiva: como garantir que tecnologias cada vez mais autônomas continuem sob controle humano à medida que se tornam mais poderosas?
