SP Diário
Um pesquisador britânico que participou do desenvolvimento de sistemas de inteligência artificial na Anthropic, empresa responsável pelo chatbot Claude, semelhante ao ChatGPT, decidiu deixar a companhia e expressou suas preocupações sobre os perigos dessa tecnologia.
Jacob Coxon, de 32 anos, advertiu que a inteligência artificial pode resultar na extinção da humanidade até o final desta década, além de criticar a celeridade com que as empresas do setor progridem no aprimoramento de sistemas mais avançados.
Em uma série de postagens no X (antigo Twitter) nesta terça-feira (8), Coxon anunciou sua saída da Anthropic. Antes de integrar a equipe da empresa com sede em São Francisco, Califórnia, ele também trabalhou na OpenAI. Durante suas publicações, ele declarou que está se afastando da indústria de inteligência artificial.
https://x.com/hilbertspaess/status/2097476196791709843
De acordo com o pesquisador, a competição entre os principais laboratórios de IA visa desenvolver sistemas que possam superar os humanos em praticamente todas as funções intelectuais, com o intuito de posteriormente aprimorar ainda mais essa tecnologia.
Coxon ressaltou que aqueles diretamente envolvidos no desenvolvimento dessas tecnologias têm consciência dos riscos reais envolvidos.
Ele argumentou que o crescimento das capacidades dos sistemas não está sendo acompanhado por salvaguardas adequadas para assegurar que eles permaneçam sob controle humano.
Em um dos seus posts, ele afirmou: “Eles estão correndo diretamente para uma superinteligência que se aprimora sozinha e apostando nossas vidas nisso”.
Repercussão
A declaração gerou discussões significativas quando Evan Hubinger, outro pesquisador da Anthropic focado em alinhamento de IA, respondeu aos comentários. Hubinger concordou com Coxon e mencionou que, em sua avaliação pessoal, há menos de 10% de chance de a inteligência artificial exterminar todos os seres humanos nos próximos dez anos.
Além disso, Hubinger indicou que a Anthropic ainda não possui um plano para enfrentar o desafio do alinhamento em relação a uma possível superinteligência.
A pesquisa sobre alinhamento é fundamental na segurança da inteligência artificial. O objetivo é garantir que o comportamento e os objetivos desses sistemas avançados estejam sempre alinhados às intenções humanas, mesmo à medida que eles começam a executar tarefas cada vez mais complexas e autônomas.
A expressão superinteligência refere-se à possibilidade de uma inteligência artificial que supere a capacidade humana em quase todas as áreas cognitivas.
Dentre os cenários alarmantes discutidos por especialistas está a possibilidade de uma tecnologia capaz de gerar versões ainda mais sofisticadas de si mesma, acelerando seu próprio processo evolutivo.
Coxon criticou essa busca frenética. Em sua análise, empresas como Anthropic e OpenAI estão competindo para serem as primeiras a desenvolver esses sistemas, enquanto questões cruciais sobre segurança permanecem sem solução.
A preocupação com os perigos associados à inteligência artificial não é um tema novo e reúne pesquisadores com visões bastante divergentes. Enquanto alguns membros da comunidade científica consideram cenários apocalípticos como altamente especulativos, outros defendem que mesmo uma pequena chance deve ser encarada seriamente diante das consequências potenciais.
Ainda assim, apesar das advertências, a ideia de uma superinteligência capaz de se autoaprimorar continua sendo um conceito hipotético. O foco atual está em determinar se os mecanismos de segurança e controle conseguirão acompanhar o avanço das capacidades dos sistemas de inteligência artificial.
