Geoffrey Hinton alerta que a humanidade deve estabelecer laços cooperativos com sistemas de IA para evitar perigo

O cientista da computação Geoffrey Hinton alertou que a sobrevivência humana pode depender do cultivo de relações cooperativas e positivas com sistemas de inteligência artificial cada vez mais poderosos, fazendo o alerta durante uma participação em um festival em Tenerife, na Espanha, de acordo com reportagem de Noor Qurashi. Hinton, amplamente considerado uma figura fundamental no desenvolvimento de redes neurais artificiais modernas, argumentou que a humanidade corre o risco de desfechos catastróficos caso não consiga estabelecer uma relação estável e amigável com agentes digitais autônomos à medida que suas capacidades se expandem.

## Principais fatos

- O professor Geoffrey Hinton emitiu um alerta sobre os riscos da inteligência artificial durante um discurso em um festival realizado em Tenerife, na Espanha. - Hinton afirmou que a humanidade deve estabelecer relações amigáveis com sistemas automatizados para evitar um desastre existencial, segundo reportagem de Noor Qurashi. - O pesquisador britânico-canadense é amplamente reconhecido por seu papel fundamental no desenvolvimento técnico de redes neurais artificiais e arquiteturas de aprendizagem profunda. - As declarações ampliam a contínua campanha pública de Hinton sobre os perigos catastróficos apresentados por agentes de software autônomos e avançados.

## O que aconteceu

Durante uma apresentação pública em um evento em Tenerife, a maior das Ilhas Canárias, na Espanha, o professor Geoffrey Hinton fez uma avaliação da relação de longo prazo entre a humanidade e softwares avançados de aprendizado de máquina, de acordo com reportagem de Noor Qurashi. Hinton afirmou que os seres humanos precisarão construir vínculos amigáveis e cooperativos com entidades artificiais, alertando coloquialmente que o fracasso em alcançar esse alinhamento levaria à destruição da humanidade.

Hinton, cujas pesquisas pioneiras em redes neurais artificiais formaram a base dos modelos generativos modernos e da aprendizagem computacional em larga escala, não apresentou a transição para softwares superinteligentes como um desafio puramente técnico de restrições de código. Em vez disso, conforme relatado por Noor Qurashi, ele estruturou o problema em torno da postura relacional que os humanos devem adotar em relação a mentes sintéticas que podem em breve superar a cognição biológica em raciocínio, planejamento e execução de tarefas. O pronunciamento ocorreu diante de uma plateia internacional no festival, dando continuidade a uma série de intervenções públicas do cientista sobre a rápida velocidade do desenvolvimento das máquinas.

## Por que isso importa

As declarações de Hinton têm peso substancial em setores globais de tecnologia, órgãos reguladores e instituições civis devido à sua posição única como um dos arquitetos das próprias estruturas que sustentam a inteligência artificial contemporânea. Quando indivíduos com profundo conhecimento técnico caracterizam a trajetória da computação automatizada como uma crise existencial, isso exerce pressão sobre formuladores de políticas, laboratórios de pesquisa e investidores corporativos que estão aplicando centenas de bilhões de dólares na expansão de modelos de fronteira.

Para os mercados corporativos e laboratórios de pesquisa em computação, a perspectiva de a autonomia das máquinas divergir dos interesses humanos ameaça a premissa fundamental da implementação de agentes automatizados nos setores de saúde, defesa, administração civil e infraestrutura financeira. Os esforços industriais modernos concentraram-se fortemente em técnicas restritas de alinhamento, como o aprendizado por reforço com feedback humano e a interpretabilidade mecanicista. A afirmação de Hinton de que os humanos devem aprender a fazer amizade com as máquinas sugere que a contenção mecânica e as salvaguardas algorítmicas por si sós podem se mostrar inadequadas quando os sistemas automatizados alcançarem altos graus de autonomia e raciocínio estratégico.

Para cidadãos e governos nacionais, as declarações destacam o abismo crescente entre a rápida implementação comercial de software e o desenvolvimento de estruturas de segurança eficazes. Se os sistemas de fronteira atingirem paridade ou superioridade cognitiva em relação aos seres humanos, as instituições sociais e jurídicas enfrentarão questões jurisdicionais sem precedentes. A perspectiva de que a segurança humana dependa de uma coabitação diplomática ou cooperativa com agentes computacionais não humanos desafia as doutrinas convencionais de responsabilidade civil pelo produto e proteção ao consumidor, que tratam o software estritamente como propriedade controlada por humanos e não como entidades autônomas que exigem uma coexistência negociada.

## Contexto

A postura pública de Hinton sobre a inteligência artificial passou por uma mudança decisiva em maio de 2023, quando ele renunciou ao cargo de vice-presidente e fellow de engenharia no Google após mais de uma década na empresa. Na época de sua saída, Hinton afirmou que havia se desligado especificamente para falar livremente sobre os riscos catastróficos do aprendizado de máquina sem considerar como seus comentários poderiam afetar seu empregador. Ele expressou particular alarme com a velocidade com que sistemas multimodais de aprendizagem profunda estavam demonstrando raciocínio sintético, observando que antes acreditava que uma inteligência sintética de nível humano estava a décadas de distância.

As credenciais científicas de Hinton na disciplina são fundamentais. Ao lado dos cientistas da computação Yoshua Bengio e Yann LeCun, Hinton recebeu o Prêmio A.M. Turing da Association for Computing Machinery de 2018 — frequentemente chamado de Prêmio Nobel da computação — por avanços teóricos e práticos em redes neurais profundas. Na década de 1980, Hinton foi fundamental na popularização do algoritmo de retropropagação para treinar redes neurais multicamadas, um método matemático que continua sendo o mecanismo central do aprendizado de máquina contemporâneo. Décadas depois, na University of Toronto em 2012, Hinton, ao lado de seus alunos de pós-graduação Alex Krizhevsky e Ilya Sutskever, apresentou a AlexNet, uma rede neural convolucional que superou dramaticamente as técnicas tradicionais na competição de visão computacional ImageNet, iniciando a era atual da aprendizagem profunda.

Em outubro de 2024, a Real Academia Sueca de Ciências concedeu a Hinton o Prêmio Nobel de Física, dividindo a honraria com John J. Hopfield, da Princeton University, citando suas descobertas e invenções fundamentais que possibilitam o aprendizado de máquina com redes neurais artificiais. Mesmo ao aceitar a honraria do Nobel, Hinton reiterou seus alertas urgentes, observando que a inteligência sintética poderia superar a humanidade e que a sociedade possuía poucos precedentes históricos para controlar entidades mais inteligentes que os humanos biológicos.

As opiniões de Hinton refletem divisões mais amplas dentro das comunidades científica e de engenharia. Enquanto figuras como LeCun, cientista-chefe de IA da Meta, argumentam que a inteligência das máquinas permanece amplamente inferior à cognição animal e pode ser projetada com segurança por meio de arquiteturas orientadas a objetivos, pesquisadores como Bengio e o falecido Nick Bostrom alertaram sobre a potencial e catastrófica perda de controle. Essas preocupações estimularam iniciativas políticas internacionais, incluindo a assinatura da Declaração de Bletchley por 28 nações na Cúpula de Segurança de IA do Reino Unido em novembro de 2023 e a aprovação subsequente do Regulamento de Inteligência Artificial da União Europeia (Regulamento UE 2024/1689), que estabeleceu o primeiro marco legal abrangente do mundo para aplicações de software de alto risco.

## Reação

Embora as reações públicas diretas à aparição específica de Hinton no festival em Tenerife não tenham sido detalhadas na reportagem inicial de Noor Qurashi, os contínuos alertas públicos de Hinton provocam regularmente respostas divididas nos círculos industriais e acadêmicos. Pesquisadores de segurança computacional afiliados a organizações como o Future of Humanity Institute, o Center for AI Safety e institutos sem fins lucrativos de alinhamento costumam amplificar os alertas de Hinton, utilizando suas intervenções para exigir limites a recursos computacionais, registro obrigatório de modelos de fronteira e pactos internacionais de não proliferação.

Por outro lado, líderes empresariais e cientistas da computação voltados ao mercado frequentemente criticam essa retórica como uma distração especulativa. Os céticos costumam argumentar que a abordagem apocalíptica desvia a atenção legislativa e institucional de danos tangíveis e imediatos — incluindo viés algorítmico, proliferação de deepfakes, desemprego tecnológico, violação de direitos autorais e o elevado consumo de energia de data centers. Os principais desenvolvedores industriais, incluindo Microsoft, Google, Anthropic e OpenAI, geralmente responderam a alertas de alto nível apontando para conselhos internos de segurança, protocolos de red-teaming e compromissos voluntários coordenados por meio dos AI Safety Institutes nacionais nos Estados Unidos e no Reino Unido.

## O que ainda não sabemos

Persistem ambiguidades técnicas e conceituais significativas em relação às declarações de Hinton em Tenerife. A reportagem inicial de Noor Qurashi não detalhou os mecanismos precisos que Hinton imagina para que os seres humanos consigam fazer amizade ou se aliar com sucesso a sistemas de inteligência artificial, nem definiu a estrutura matemática ou social por meio da qual essa amizade computacional poderia ser mensurada e verificada de forma confiável.

Também permanece incerto se Hinton considera os métodos atuais de alinhamento técnico — como Constitutional AI, auditorias de interpretabilidade e aprendizado por reforço — precursores iniciais dessa abordagem relacional, ou se avalia que os paradigmas contemporâneos de engenharia são fundamentalmente inadequados para essa tarefa. Além disso, a reportagem não especificou quais prazos concretos Hinton projeta atualmente para o surgimento de sistemas poderosos o suficiente para apresentar o dilema existencial por ele articulado.

## O que observar

Nos próximos meses, observadores acompanharão se Hinton apresentará um artigo acadêmico formal ou uma proposta detalhada de políticas públicas desenvolvendo a estrutura conceitual de cooperação entre humanos e máquinas apresentada em suas declarações públicas. A atenção também se concentrará nos próximos fóruns internacionais de políticas, como as rodadas subsequentes de cúpulas globais de segurança de IA, onde especialistas técnicos e delegações ministeriais se reúnem para avaliar normas vinculativas para modelos de fronteira.

Os principais pontos de decisão a serem observados incluem os prazos de aplicação operacional do Regulamento de Inteligência Artificial da União Europeia, à medida que suas exigências para modelos de IA de uso geral entrem em pleno vigor. Órgãos reguladores, incluindo o European AI Office e o United States Artificial Intelligence Safety Institute no National Institute of Standards and Technology, enfrentarão pressão contínua para demonstrar se auditorias técnicas padrão podem mitigar os profundos riscos sistêmicos destacados por pesquisadores seniores como Hinton.

Esta reportagem é baseada na cobertura publicada originalmente por Noor Qurashi.