Jorge Luis Borges e Walter Benjamin na era do ChatGPT

Jorge Luis Borges e Walter Benjamin na era do ChatGPT

A inteligência artificial (IA) coloca hoje questões profundas sobre autoria, originalidade e verdade nas artes e na vida cotidiana. Essas são discussões que Jorge Luis Borges (1899-1986) e Walter Benjamin (1892-1940) exploraram muito antes dos outros, ao refletir sobre a reprodutibilidade técnica e a perda da “aura” das obras artísticas. Interessante é que suas ideias ajudam a entender o impacto de um ChatGPT na cultura em geral. Nada ou muito pouco será como antes.

No conto de “Pierre Menard, autor do Quixote” (1939), Borges inventou um personagem que pretendia recriar o Dom Quixote de Cervantes. Mas ele não queria uma cópia do livro de 1605. A intenção era fazer uma “reinterpretação” fiel da obra no século 20, com a reprodução palavra por palavra do texto original, mas em seu próprio contexto histórico.

“O método inicial que [Menard] imaginou era relativamente singelo. Conhecer bem o espanhol, recuperar a fé católica, guerrear contra os mouros ou contra os turcos, esquecer a história da Europa entre os anos de 1602 e de 1918, ser Miguel de Cervantes”, diz o narrador do conto borgiano. Qual foi o resultado?

Borges conta: “O fragmentário Quixote de Menard é mais sutil que o de Cervantes. Este, de modo grosseiro, opõe às ficções cavaleirescas a pobre realidade provinciana de seu país; Menard elege como ‘realidade’ a terra de Carmen durante o século de Lepanto e de Lope. Que espanholadas não teria sugerido essa escolha a Maurice Barrès ou ao doutor Rodríguez Larreta! Menard, com toda naturalidade, evita-as. Em sua obra não há ciganices, nem conquistadores, nem místicos, nem Filipe II, nem autos-de-fé. Desatende ou proscreve a cor local. Esse desdém revela um sentido novo do romance histórico”. 

Algo semelhante a Menard faz a IA. Gera textos novos com base em padrões de um vasto banco de dados, mas sem experiências ou intencionalidade. Ela elabora conteúdos que parecem novos, mas que, em essência, reorganizam o que já existe. Assim como Menard, a IA desafia a visão tradicional de autoria ao simular uma originalidade que é desprovida de “voz” pessoal. É outra coisa sempre, mesmo que pareça igual.

Ainda poderíamos pensar na “máquina de Macedônio”, imaginada pelo escritor argentino Ricardo Piglia, no romance “Cidade Ausente”. A IA é essa máquina narrativa capaz de ler uma montanha de arquivos, textos, imagens, e produzir narrativas. O que um ser humano levaria uma vida inteira para fazer, um ChatGPT realiza em segundos. Desse jeito, parece até otimista e positiva essa visão.  

O valor do autêntico

O complemento ao conto de Borges vem de Benjamin. Ele foi o pensador dos fragmentos, do mundo que se apresenta aos pedaços para as pessoas. O filósofo alemão lia e anotava o tempo todo. Antecipou o que seria a cultura moderna em sua essência. Nos primeiros anos do nazismo, ele escreveu “A Obra de Arte na era de sua Reprodutibilidade Técnica”.  

A partir da leitura de Benjamin, a reprodução de um quadro famoso numa gráfica ou a gravação de uma sinfonia em disco retiram deles sua “aura” — aquela autenticidade e presença únicas de uma obra em seu contexto original. Ele escreveu em 1936: “[A aura] é uma figura singular, composta de elementos espaciais e temporais: a aparição única de uma coisa distante por mais perto que ela esteja. Observar, em repouso, numa tarde de verão, uma cadeia de montanhas no horizonte, ou um galho, que projeta sua sombra sobre nós, significa respirar a aura dessas montanhas, desse galho”.

Mesmo depois das ideias benjaminianas, ainda acreditamos na “aura” de um criador de algo autêntico. Com as mudanças tecnológicas, porém, foi preciso repensar o que é ser um produtor, por exemplo, de um texto original.

O autor do século 20 se parece ao antigo trapeiro que recolhe coisas pelas ruas e monta novos objetos. Não por acaso, o cinema trouxe a concepção de montagem de fragmentos. Se colocamos a imagem de alguém com uma faca e, em seguida, uma vítima, temos uma narrativa de assassinato. A recombinação de elementos dispersos ganha sentido novo com a montagem cinematográfica ou uma edição digital.  

No caso da IA, a lógica benjamiana se amplia. O conteúdo gerado automaticamente não possui uma história ou uma experiência própria. É desprovido de contexto emocional ou intenção autoral, o que faz com que o conteúdo final pareça vazio muitas vezes. Significa, porém, uma nova forma de ler textos e de escrever. Eis o desafio: como usar essa máquina de leitura e narrativas?

Benjamin ponderou que a perda da aura democratizava a arte, pois permitia que todos tivessem acesso à obra. Mas alertou para os riscos de a reprodução técnica se tornar um instrumento de controle e manipulação. Ele estava no momento de crescimento acelerado do cinema e do rádio na década de 1930, durante a ascensão nazista que usou fartamente as transmissões radiofônicas e os filmes documentais.

Estetização da política

O risco visto por Benjamin foi a “estetização da política”, um recurso usado pelos regimes autoritários dos anos 1930 para transformar a política em espetáculo e manipulação visual. Hoje, isso se traduz em entretenimento. Ele defendeu, em contrapartida a isso, a “politização da arte” — ao invés de reforçar discursos, ela estimularia a reflexão crítica.

“Todos os esforços para estetizar a política convergem para um ponto. Esse ponto é a guerra. A guerra, e somente a guerra, permite dar um objetivo aos grandes movimentos de massa, preservando as relações de produção existentes. Eis como o fenômeno pode ser formulado do ponto de vista político. Do ponto de vista técnico, sua formulação é a seguinte: somente a guerra permite mobilizar em sua totalidade os meios técnicos do presente, preservando as atuais relações de produção”, escreveu Benjamin.

Na era da IA e do mundo conectado, isso se torna mais relevante. Produção automatizada de conteúdo pode amplificar certas narrativas e influenciar a opinião pública. Cria-se uma estética controlada que serve a interesses específicos. Quais guerras estão no horizonte da atual estetização para fins políticos nas redes sociais? Deep fakes, memes engraçados e algoritmos das plataformas digitais apresentam os riscos.  

Assim, pensando com Benjamin, a IA oferece tanto a possibilidade de democratizar o acesso à informação, como o risco de padronizá-la e controlá-la, ao reforçar a ausência de reflexão crítica. Pode até ser que a palavra “crítica” desapareça do vocabulário. Ainda assim será fundamental pensar nas consequências das transformações trazidas pela internet na década de 1990, das redes sociais em 2005, dos smartphones em 2010 e do ChatGPT recentemente.   

Criar com a IA

As ideias de Borges e Benjamin ajudam a perceber que a IA geradora de conteúdo vai muito além da mera inovação tecnológica. Esse é o ensinamento que Benjamin deixou para as futuras gerações, pois ele mesmo não quis ver o que seria o resultado da aventura nazista e da guerra que se desenhava na Europa. Hoje, a IA transforma os fundamentos da produção cultural e coloca questões que envolvem originalidade, autenticidade e, especialmente, impacto político da criação.

A IA desafia o mundo sobre qual será o papel da criação de forma ampla: ferramenta para cultura crítica e plural ou instrumento de controle e reforço de discursos. O que significa criar numa era em que a linha entre originalidade e repetição, entre autenticidade e manipulação, se torna cada vez mais tênue?

Esse texto partiu de um “prompt” no ChatGPT. Pedi a ele (já quase uma pessoa) que aproximasse o modelo de IA com o conto de Borges e o ensaio de Benjamin. A escolha dos termos foi minha. Mas foi preciso um ajuste. O ChatGPT sofre do “mal do gerúndio” e de termos como “afinal”. Há ainda dificuldade de encontrar trechos adequados para citações — a IA é incapaz de conectar a “máquina de Macedônio” nessa discussão. Tudo exige o olhar de um editor de carne e osso.