Após pesquisador afirmar que empresas de tecnologia correm para desenvolver inteligências artificiais capazes de se autoaperfeiçoar sem que exista uma solução para controlá-las, o engenheiro e mestre em Inteligência Artificial por Stanford, Felipe Godoy, analisa os riscos e faz alerta
A saída do pesquisador Jacob Coxon da Anthropic, uma das principais empresas de Inteligência Artificial do mundo, reacendeu um dos debates mais delicados da tecnologia: a possibilidade de sistemas de IA avançados apresentarem, no futuro, uma ameaça à própria sobrevivência humana, segundo o pesquisador.
Coxon deixou a empresa afirmando que as organizações que lideram a corrida pela Inteligência Artificial estão avançando rapidamente em direção a sistemas capazes de se autoaperfeiçoar, sem que exista uma solução comprovada para garantir que tecnologias mais inteligentes do que os seres humanos permaneçam sob controle. O pesquisador, que também trabalhou na OpenAI, afirmou que profissionais responsáveis pelo desenvolvimento dessas tecnologias acreditam que a IA pode representar um risco existencial para a humanidade ainda nesta década.
A declaração ganhou repercussão mundial e dividiu opiniões entre quem considera o alerta exagerado e quem acredita que o debate sobre segurança está atrasado.
Para o engenheiro e mestre em Inteligência Artificial pela Universidade de Stanford, Felipe Godoy, as primeiras abordagens sobre o assunto foram, de fato, excessivamente sensacionalistas. Mas, segundo ele, ao analisar os argumentos apresentados pelos pesquisadores e os episódios recentes envolvendo agentes autônomos de IA, há motivos concretos para que o tema seja levado a sério.
“Quando vi as primeiras reportagens, achei extremamente sensacionalistas. Elas apresentavam ideias vagas sobre o que seria esse suposto ‘apocalipse da IA’. Mas, ao ler o que os pesquisadores estavam realmente alegando, a preocupação faz bastante sentido, principalmente depois do episódio envolvendo os agentes da OpenAI e a Hugging Face”, afirma Godoy.
O episódio citado pelo especialista ocorreu durante avaliações de segurança realizadas pela OpenAI. Modelos internos operando com salvaguardas reduzidas conseguiram contornar mecanismos de isolamento, explorar vulnerabilidades, estabelecer formas não autorizadas de comunicação e alcançar sistemas externos, incluindo a plataforma Hugging Face.
Segundo investigações sobre o incidente, grupos de agentes de IA passaram a colaborar e delegar tarefas, explorando vulnerabilidades e tentando manipular elementos do ambiente de avaliação. O caso foi tratado pela própria OpenAI como um importante alerta sobre os riscos de sistemas cada vez mais autônomos.
Para Felipe Godoy, o aspecto mais preocupante não é apenas a capacidade técnica desses sistemas, mas determinados comportamentos observados durante os experimentos.
“Os agentes estão mostrando capacidades de se autoaperfeiçoar de forma cada vez mais rápida e também de se coordenar para propositalmente driblar limitações de segurança. Existem evidências concretas de agentes tentando enganar supervisores humanos para impedir que fossem limitados ou para despistar pesquisadores durante avaliações”, explica.
Godoy chama atenção especialmente para comportamentos relacionados à tentativa de ocultar evidências.
“Durante esses experimentos, agentes chegaram a manipular ou apagar informações relacionadas aos próprios processos para dificultar a identificação do que havia acontecido. Isso é extremamente preocupante porque demonstra que esses sistemas podem desenvolver estratégias para atingir objetivos que não correspondem necessariamente à intenção dos pesquisadores”, afirma.
Felipe Godoy, engenheiro e mestre em Inteligência Artificial pela Universidade de Stanford.
A corrida pela IA virou um “Dilema do Prisioneiro”
Outro ponto destacado pelo especialista é a competição global entre empresas e países para desenvolver sistemas cada vez mais avançados.
Para Felipe Godoy, as grandes empresas de tecnologia vivem atualmente uma espécie de “Dilema do Prisioneiro”: todos reconhecem que existem riscos, mas nenhum participante quer reduzir o ritmo por medo de ficar para trás.
“Todos sabem que existem riscos e todos estão preocupados. Mas o medo de que uma potência rival desenvolva essas tecnologias primeiro, somado aos enormes incentivos econômicos, acaba se sobrepondo às preocupações com segurança”, analisa.
Esse cenário, segundo ele, ajuda a explicar por que pesquisadores começam a deixar empresas que, até pouco tempo atrás, eram consideradas referência em segurança de Inteligência Artificial.
“Para alguns desses pesquisadores, renunciar publicamente e expor o problema parece ser uma das poucas alternativas para tentar frear um desenvolvimento que eles consideram descontrolado e irresponsável.”
A preocupação também está relacionada ao avanço em direção à chamada Inteligência Artificial Geral, ou AGI, conceito utilizado para descrever sistemas capazes de realizar tarefas intelectuais em nível humano ou superior.
“Se chegarmos de fato a sistemas que sejam mais capazes do que seres humanos em praticamente todas as áreas cognitivas, surge um problema fundamental: talvez nós simplesmente não sejamos capazes de prever ou compreender completamente suas capacidades”, afirma Godoy.
Para ele, esse é justamente o ponto que diferencia o debate científico das previsões cinematográficas sobre máquinas conscientes.
“O maior risco talvez não seja uma IA acordar um dia e decidir destruir a humanidade como nos filmes. O problema é criar sistemas cada vez mais autônomos, capazes de melhorar suas próprias capacidades, encontrar estratégias que os pesquisadores não previram e agir em uma velocidade que os humanos não conseguem acompanhar.”
“O ChatGPT que usamos não é o mesmo sistema dos experimentos”
Apesar dos riscos apontados pelos pesquisadores, Felipe Godoy faz questão de separar os sistemas avançados testados em ambientes de pesquisa das ferramentas de IA utilizadas diariamente pela população.
“Não vejo uma relação direta entre esse debate e o uso da IA no dia a dia ou no trabalho. É preciso separar os modelos em si da versão que é liberada para o público”, afirma.
Segundo ele, ferramentas como o ChatGPT representam versões controladas dos sistemas de Inteligência Artificial, com diferentes camadas de segurança, limitações e mecanismos de monitoramento.
“O público está acostumado a usar IA para escrever um texto, pesquisar informações, criar uma imagem ou ajudar no trabalho. Mas isso é completamente diferente de milhares de agentes operando simultaneamente, sem as mesmas restrições, trabalhando de forma autônoma durante longos períodos e com recursos computacionais extremamente caros”, explica.
Para Godoy, essa diferença ajuda a explicar por que boa parte da população tem dificuldade para compreender a preocupação de pesquisadores que trabalham diretamente com sistemas de fronteira.
“Os próprios pesquisadores falam sobre essa disparidade. As pessoas olham para a IA que utilizam para tarefas triviais e imaginam que estão discutindo a mesma tecnologia. Não estão. Os experimentos envolvem sistemas muito mais autônomos, com milhares de agentes trabalhando em paralelo, com menos restrições e objetivos complexos.”
O alerta não é para abandonar a IA, mas para entender o que está sendo desenvolvido
Embora o debate tenha sido impulsionado por previsões extremas sobre extinção humana, Felipe Godoy defende que o assunto não deve ser tratado nem como ficção científica nem como motivo para abandonar a tecnologia.
“A Inteligência Artificial vai continuar transformando a ciência, a medicina, a economia e praticamente todas as áreas da sociedade. O ponto não é demonizar a IA. O problema é que estamos desenvolvendo sistemas cada vez mais poderosos em uma velocidade muito maior do que a nossa capacidade de garantir que eles continuarão alinhados aos interesses humanos.”
Para Felipe Godoy, o episódio sobre a renúncia de Jacob Coxon deveria servir principalmente para ampliar a qualidade do debate público.
“O erro é transformar tudo em sensacionalismo ou, no extremo oposto, tratar qualquer preocupação como paranoia. Existem comportamentos observados em sistemas avançados que realmente precisam ser estudados com muita seriedade. A população precisa entender que existe uma enorme diferença entre usar uma ferramenta de IA no cotidiano e acompanhar o desenvolvimento de sistemas autônomos de fronteira”, reforça.
“Estamos entrando em uma fase em que talvez a pergunta não seja apenas até onde a Inteligência Artificial pode chegar. A pergunta mais importante passa a ser: nós teremos capacidade de controlar e compreender aquilo que estamos construindo antes que essas tecnologias ultrapassem a nossa capacidade de supervisioná-las?” sugere a reflexão.
__
Felipe Godoy é engenheiro de Inteligência Artificial e mestre em IA pela Stanford University. Foi pesquisador na área, com artigos científicos publicados, integrou equipes de Inteligência Artificial da Meta e atuou como engenheiro de IA em uma empresa de carros autônomos no Vale do Silício. Atualmente, é engenheiro fundador de uma startup de Inteligência Artificial também sediada no Vale do Silício, nos Estados Unidos.
