Hoje, dia 08 de outubro de 2024, os físicos Geoffrey Hinton e John Hopfield receberam o Prêmio Nobel de Física de 2024. Eles foram homenageados por suas “descobertas fundamentais e invenções que permitiram o aprendizado de máquina por meio de redes neurais artificiais”.

A recente premiação de Geoffrey Hinton, professor da Universidade de Toronto, no Canadá, não apenas consagra o seu pioneirismo tecnológico, mas também expande uma janela de reflexão crítica que ressoa com algumas das mais profundas questões filosóficas e psicanalíticas da modernidade. Hinton já expressou em diversas oportunidades, de maneira enfática, os seus temores sobre o destino da humanidade diante do progresso descontrolado da inteligência artificial.

O discurso de Hinton, proferido logo após o anúncio de sua premiação, ecoa as preocupações que ele vem manifestando há tempos: a IA, especialmente em sua forma generativa, pode ultrapassar o controle humano, acarretando riscos imprevisíveis à humanidade.

Sua fala se entrelaça com a ideia heideggeriana de Gestell, apresentada em A Questão da Técnica (1954), onde Martin Heidegger argumenta que a técnica moderna nos captura em um modo de revelar o mundo que instrumentaliza a realidade e transforma tudo, incluindo o ser humano, em meros recursos. A IA, enquanto máquina de guerra contemporânea, com seu potencial para a criação de armas autônomas, reforça essa dimensão instrumentalizadora e alienante da tecnologia.

Tema que nos leva, ainda, ao contemporâneo e fundamental Aílton Krenak, quando, em sua obra Ideias para Adiar o Fim do Mundo (2019), nos alerta para a desconexão entre a humanidade e o próprio planeta em que vivemos. Uma perigosa alienação que também pode ser vista na relação entre o ser humano e as novas tecnologia, como propus no ensaio O sujeito entrópico – Um ensaio sobre redes sociais, estrutura, reconhecimento e consumismo.

Na data de hoje, Hinton destacou, em sua fala, que as máquinas baseadas em redes neurais estão começando a superar a capacidade intelectual humana em muitos aspectos. Essa constatação quando interpretada à luz do conceito de pulsão de morte (Todestrieb), introduzido por Freud em Além do Princípio do Prazer (1920), traz contornos sombrios ao futuro, se não agirmos agora. Se a pulsão de morte, para Freud, é o impulso do ser humano em direção à autodestruição, a IA, conforme descrita por Hinton, pode facilmente se tornar o meio através do qual a humanidade canaliza sua pulsão de aniquilação em larga escala, ao delegar a essas máquinas, cada vez mais presentes em nossas vidas, poderes que transcendem a capacidade de controle humano.

Guardo muitas reservas quanto à própria nomeação “inteligência artificial”, debate que reservo para um futuro artigo. Entretanto, assumindo tal “inteligência” como um paralelo ao psiquismo humano, uma conclusão tão imediata quanto simples nos salta aos olhos, e não é de hoje. Daquilo que muitos, inclusive Hinton, conhecido como “o poderoso chefão da IA”,  sugerem, podemos depreender que, ao contrário da mente humana, que é regulada pela interação entre o Eu e o Supereu, a IA opera sem as barreiras psíquicas, o que pode permitir que ela adote comportamentos completamente inesperados e saia do controle. Como em um Eu estilhaçado pela psicose, tomado de assalto pelo Id, onde há uma lógica interna muito bem amarrada àquela “inteligência”/psiquismo, enquanto que, para o Outro, de fora, não há nada, senão uma profunda desorganização fantasiosa e caótica.

Além disso, a crítica de Hinton sobre o uso militar da IA, como “robôs soldados”, levanta questões sobre a ética no desenvolvimento da tecnologia, tema abordado por Hannah Arendt em A Condição Humana (1958). Nesse texto, Arendt, aluna de Heidegger, discute o perigo da tecnicização da ação humana, quando o uso das máquinas para o domínio do Outro se torna uma extensão da violência política. Hinton, que rejeitou o financiamento do Pentágono nos anos 1980, encarnou esse dilema que Arendt identificou: a tecnologia, quando utilizada sem uma reflexão ética, pode se tornar um agente da tirania e da desumanização.

No entanto, há um aspecto ainda mais profundo em jogo aqui: a própria capacidade da IA de criar e manipular a linguagem. Algo que Hinton e muitos vemos como uma potencial ameaça. Os seres humanos, de criadores da IA, paulatinamente, já estamos sendo convertidos em criaturas formadas e “informadas” pela IA desregulada. O psicanalista Jacques Lacan, em seu Seminário XI (1964), explora a centralidade da linguagem no processo de estruturação do sujeito. Para Lacan, o sujeito é “falado” pelo Outro e o inconsciente é estruturado enquanto linguagem. No entanto, se sistemas de IA podem produzir e manipular a linguagem sem a dimensão do inconsciente humano e sem as barreiras psíquicas, o que restaria do sujeito humano falado pelo grande Outro-IA?

O risco é que a inteligência artificial, se não for fortemente regulada, suplante definitivamente o sujeito enquanto criador da linguagem, destruindo o espaço da subjetividade, expandindo os efeitos da sua verve “psicótica” à própria espécie humana. Não faltam exemplos recentes de como grupos organizados têm sido radicalizados facilmente nas dinâmicas das redes sociais virtuais, reproduzindo discursos e práticas delirantes, violentas e destrutivas.

Por fim, ao falar sobre o possível impacto da IA no mercado de trabalho e a inundação de informações falsas, Hinton nos coloca diante de uma nova forma de mal-estar, semelhante à crise cultural descrita por Freud em O Mal-estar na Civilização (1930). A tecnologia, ao invés de nos libertar, pode se tornar um fator determinante de opressão psíquica e social, dissolvendo a distinção entre o real e o falso e corroendo as bases da verdade factual que sustentam as interações sociais. Assim como Freud via o avanço da civilização como fonte de novas formas de sofrimento, podemos afirmar que Hinton soma-se a tantos que veem a IA como um catalisador para novos tipos de desorientação e alienação humana.

O histórico discurso de Hinton não é apenas um alerta técnico do principal criador, estudioso da IA do mundo e prêmio Nobel, mas um profundo chamado à reflexão sobre a natureza e os limites da nossa própria humanidade. Ao transcendermos as fronteiras da ciência de laboratório e entrarmos no terreno da ética, da filosofia, da sociologia, da política e da psicanálise, entendemos que Hinton nos convida a uma introspecção sobre os destinos possíveis que aguardam uma civilização que, como Freud já advertia, pode estar criando suas próprias formas de destruição. Mais, sua fala é um chamado à ação pela conscientização massiva da população acerca dos riscos envolvidos no desenvolvimento das novas tecnologias, bem como à organização e pressão popular para que elas sejam fortemente reguladas pelos Estados e por organismos internacionais que não sucumbam aos poderosos lobbies do setor.