SÃO PAULO — O pesquisador britânico Jacob Coxon, de 27 anos, decidiu deixar a indústria de inteligência artificial depois de trabalhar nos últimos três anos em duas das empresas mais influentes do setor: OpenAI e Anthropic.
📲Informação é aqui – Siga o RLagos Notícias no Instagram e acompanhe as principais notícias da Região dos Lagos e do Rio de Janeiro em tempo real.
Ao anunciar sua saída, Coxon fez críticas duras às duas companhias e afirmou que elas estariam “brincando com nossas vidas” ao avançarem na direção de sistemas de inteligência artificial cada vez mais poderosos.
Nos últimos anos, Coxon trabalhou com pré-treinamento, etapa fundamental no desenvolvimento dos grandes modelos de IA. É nesse processo que os sistemas absorvem grandes volumes de informação e passam a desenvolver capacidades que depois serão refinadas para tarefas específicas.
Primeiro, o pesquisador trabalhou na OpenAI. Depois, decidiu migrar para a Anthropic por considerar que a empresa adotava uma postura mais prudente em relação aos riscos da tecnologia.
Agora, porém, ele afirma ter chegado à conclusão de que nenhuma das duas estaria agindo de maneira suficientemente responsável.
“Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas”, escreveu Coxon ao anunciar sua decisão.
A principal preocupação apresentada pelo pesquisador está relacionada à possibilidade de desenvolvimento de sistemas de IA que ultrapassem amplamente as capacidades humanas e, posteriormente, passem a participar do próprio processo de criação de versões ainda mais avançadas.
Esse cenário é conhecido no setor como autoaperfeiçoamento recursivo.
Na prática, a ideia é que sistemas de inteligência artificial possam chegar a um estágio em que consigam contribuir diretamente para projetar, programar e treinar novas gerações de IA, reduzindo a participação humana no desenvolvimento da própria tecnologia.
Para especialistas preocupados com segurança, o avanço nessa direção pode criar desafios inéditos de controle.
Coxon afirma que parte das pessoas responsáveis pelo desenvolvimento dessas tecnologias considera seriamente a possibilidade de consequências extremamente graves.
“As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar todos até o fim da década. Isto não é uma jogada de marketing”, escreveu.
A declaração representa a avaliação pessoal do ex-pesquisador e não significa que exista consenso científico de que esse cenário necessariamente ocorrerá.
Mesmo assim, a preocupação com sistemas muito avançados deixou de ser uma discussão restrita a pesquisadores externos às grandes empresas.
Dentro da própria Anthropic, um de seus principais responsáveis pela área de segurança também se manifestou publicamente sobre o assunto.
Evan Hubinger, diretor de segurança da companhia, afirmou que considera real a possibilidade de sistemas de inteligência artificial provocarem mortes humanas.
Em uma avaliação pessoal, ele estimou em mais de 10% o risco desse tipo de consequência dentro da próxima década.
A manifestação reforça o tamanho do debate existente dentro da própria indústria.
Coxon sustenta que empresas privadas não deveriam desenvolver sozinhas uma inteligência artificial capaz de superar seres humanos em diversas capacidades sem um nível muito maior de supervisão pública.
Para ele, seria necessária intervenção governamental ou algum tipo de desaceleração coordenada entre as companhias responsáveis pelos sistemas mais avançados.
O problema, segundo o pesquisador, é que cada empresa teme que uma rival avance primeiro.
Isso criaria uma espécie de corrida tecnológica na qual mesmo organizações preocupadas com segurança continuariam acelerando seus projetos por receio de perder espaço.
Coxon utilizou justamente a Anthropic como exemplo desse dilema.
“Na Anthropic, eles compreendem bem o que está em jogo, mas estão presos em uma corrida para chegar lá primeiro — acreditam que ninguém mais atuará de forma responsável, então precisam fazer isso eles mesmos, apesar do risco”, afirmou.
A Anthropic foi criada com forte discurso relacionado à segurança e ao desenvolvimento responsável de inteligência artificial.
Mesmo assim, em fevereiro, a empresa retirou de sua carta de segurança um compromisso que previa suspender o desenvolvimento de determinados modelos caso não fosse possível controlar adequadamente os riscos.
Essa mudança aumentou o debate sobre até que ponto compromissos voluntários das empresas seriam suficientes em uma indústria altamente competitiva.
No fim de julho, mais de mil profissionais do setor assinaram uma manifestação pedindo que o governo dos Estados Unidos desenvolvesse mecanismos capazes de desacelerar ou interromper avanços considerados perigosos.
Entre os nomes envolvidos estava Dario Amodei, CEO da Anthropic.
A preocupação com segurança também apareceu recentemente dentro da própria OpenAI.
O diretor científico da empresa, Jakub Pachocki, afirmou que o momento atual exige “extrema cautela” e maior coordenação internacional.
As manifestações acontecem enquanto grandes empresas de tecnologia investem bilhões de dólares em infraestrutura, chips, centros de dados e treinamento de modelos cada vez maiores.
O objetivo é desenvolver sistemas capazes de executar tarefas mais complexas, produzir código, realizar pesquisas, solucionar problemas científicos e aumentar a automação de diferentes atividades.
O avanço rápido também intensificou as discussões sobre os limites da tecnologia.
Além dos riscos mais extremos discutidos por pesquisadores como Coxon, existem preocupações atuais relacionadas a desinformação, segurança digital, substituição de empregos, concentração de poder econômico e uso indevido de sistemas de IA.
No caso apresentado pelo ex-pesquisador, porém, a preocupação vai além.
Ele questiona o que poderia acontecer caso sistemas extremamente capazes ganhassem autonomia suficiente para realizar tarefas complexas sem supervisão adequada.
A saída de Coxon ganha repercussão justamente porque ele não é apenas um crítico externo da indústria.
Ele trabalhou diretamente no desenvolvimento de modelos dentro da OpenAI e da Anthropic e teve contato com áreas consideradas estratégicas na construção dessas tecnologias.
O episódio também ocorre em um momento importante para a Anthropic, que se prepara para uma possível abertura de capital.
Até o momento das informações apresentadas, OpenAI e Anthropic não haviam divulgado respostas às acusações feitas por Coxon.
A manifestação do pesquisador, portanto, passa a integrar um debate cada vez maior dentro do próprio setor de inteligência artificial.
De um lado estão empresas que argumentam que continuar avançando é fundamental para garantir liderança tecnológica, desenvolvimento científico e benefícios econômicos.
Do outro estão pesquisadores e especialistas que defendem mecanismos de controle mais rígidos antes que sistemas ainda mais poderosos sejam colocados em operação.
📲 Confira as últimas notícias do Rlagos Notícias
📲 Acompanhe o Rlagos no Facebook , Instagram , Twitter e Thread