I.A. — O MARAVILHOSO PERIGOSO

 

Esta experiência textual nasce de um passado recente, quando uma viagem no tempo se tornou obrigatória. Tive a ideia, porém não a presença. Prevaleceram fatores demasiadamente humanos: a rotina, as prioridades, o tédio diante do tema e outros vieses talvez mais psicológicos, literários — e, por isso mesmo, mais interessantes.

Contudo a temática permaneceu ali como um ser vivo, à espera de alguma coisa que lhe faltava: um Homem de Lata no País de Oz, precisando de um coração.

Ao mesmo tempo, algo desse coração pulsava em cabos de fibra óptica que atravessam os oceanos, num mundo que parece possuir mais links do que o próprio coração humano. Já  os satélites, como anjos metálicos, milhares deles, não reagiam: apenas contemplavam, sem desespero, o desespero humano.

Não bastava. E havia feito uma promessa...

Foi então que, sem apresentação, surpresa ou incredulidade, veio Machado.

Sim, Machado de Assis.

Em 16 de outubro de 1892, na série A Semana, ele escreveu sobre a chegada do bonde elétrico ao Rio de Janeiro. Quase 134 anos depois, sua crônica chega até aqui. Como uma Máquina do Tempo feita de tinta e papel.

Seria esse o coração do Homem de Lata?

Ainda não.

A estrada dos tijolos amarelos precisava de rastros, de passagem, de experiência.  Precisa de gente!

Machado transforma a novidade tecnológica dos primeiros bondes elétricos numa pequena cena filosófica e satírica. E o extraordinário é que não se deixa simplesmente maravilhar pela máquina. Observa o homem diante dela.

Machado era um gênio. Particularmente, sempre me pareceu possuir uma capacidade cognitiva muito acima do comum. Mas deixemos isso de lado.

Na crônica, ele conta que encontrou um dos novos bondes elétricos enquanto seguia num bonde comum:

“Ontem, porém, indo pela Praia da Lapa, em um bonde comum, encontrei um dos elétricos, que descia. Era o primeiro que estes meus olhos viam andar.”

Mas aquilo que primeiro lhe chama a atenção não é a eletricidade.

É o cocheiro.

“Para não mentir, direi que o que me impressionou, antes da eletricidade, foi o gesto do cocheiro. Os olhos do homem passavam por cima da gente que ia no meu bonde, com um grande ar de superioridade. Posto não fosse feio, não eram as prendas físicas que lhe davam aquele aspecto. Sentia-se nele a convicção de que inventara, não só o bonde elétrico, mas a própria eletricidade. Não é meu ofício censurar essas meias glórias, ou glórias de empréstimo, como lhe queiram chamar espíritos vadios. As glórias de empréstimo, se não valem tanto como as de plena propriedade, merecem sempre algumas mostras de simpatia. Para que arrancar um homem a essa agradável sensação? Que tenho para lhe dar em troca?”

Coloco a seguir o link para ler a crônica inteira, recomendo por demais: 

PORTAL DA CRÔNICA BRASILEIRA

É uma observação psicológica extraordinária.

O cocheiro não inventou o bonde e muito menos a eletricidade. Mas, sentado no comando daquela novidade, parece apropriar-se subjetivamente de sua potência. Seu olhar passa “por cima” dos demais. O poder da máquina converte-se, psicologicamente, em poder do operador.

Machado encontra uma expressão magnífica para isso: glórias de empréstimo.

Mais de um século depois, ela parece escrita para nós.

Uma pessoa pode produzir em segundos um texto, uma imagem, uma análise, uma tradução ou um programa que antes exigiria determinadas competências. Mas existe aí uma pergunta inevitável: a capacidade disponibilizada pela ferramenta tornou-se uma capacidade efetivamente adquirida por quem a utiliza?

Produzo um excelente texto com inteligência artificial: tornei-me escritor?

Recebo uma interpretação sofisticada: compreendi?

Obtenho uma resposta brilhante: aprendi?

A máquina realiza em segundos aquilo que eu não saberia fazer sozinho: essa competência passou a ser minha?

Não necessariamente.

Aqui surge uma forma contemporânea da glória de empréstimo. Não apenas delegamos determinada faculdade à máquina; podemos acabar incorporando imaginariamente como nossa a competência dela.

Machado, entretanto, não condena brutalmente o cocheiro. Há uma delicadeza extraordinária em sua ironia:

“Para que arrancar um homem a essa agradável sensação? Que tenho para lhe dar em troca?”

Ele reconhece a vaidade humana, desmonta-a e, de certo modo, quase a perdoa.

Depois, na mesma crônica, os burros que puxavam os bondes percebem que a eletricidade poderá torná-los desnecessários. O bonde deixa então de ser apenas máquina e passa a representar também substituição. Para alguns, a inovação significa progresso; para outros, libertação de um trabalho penoso; para outros ainda, obsolescência.

E surge uma pergunta que atravessa todo este texto:

Quando uma tecnologia amplia extraordinariamente nossas possibilidades, o que acontece com aquilo — ou com aqueles — que ela torna desnecessários?

O problema não é exatamente a máquina. O bonde não possui intenção moral. O ponto decisivo está na relação humana com o progresso, com a potência recebida e com aquilo que essa potência transforma.

É nesse lugar que Machado entra em O Maravilhoso Perigoso.

Do burro substituído pelo bonde elétrico ao homem que começa a delegar partes de seu próprio pensamento à inteligência artificial, muda a tecnologia, mas permanece a pergunta sobre o humano diante dela.

Um depoimento como escritor

Como escritor, tenho encontrado na inteligência artificial um instrumento extraordinariamente valioso. Não digo isso por entusiasmo tecnológico abstrato ou simplesmente pessoal — embora goste por demais de ficção científica —, mas pela experiência cotidiana de utilizá-la.

Ela fez diferença concreta em diversos aspectos do meu trabalho: correção, leitura beta, análise de continuidade, avaliação literária, pesquisa e criação visual.

Talvez, entre todas essas funções, eu destacasse a correção.

Ter diante de mim uma ferramenta capaz de retornar inúmeras vezes ao mesmo parágrafo, examinar uma repetição, confrontar versões, perceber incoerências e sugerir alternativas modificou profundamente algumas etapas do meu trabalho.

E acho isso maravilhoso.

Quem escreve livros sabe o quanto a revisão pode ser extenuante. Em determinadas etapas, cheguei a ler um mesmo livro sete vezes. E, ainda assim, erros passavam: uma palavra inadequada, uma repetição, uma concordância defeituosa, uma pequena incoerência.

Existe um fenômeno curioso na escrita. Depois de conviver demais com um texto, começamos a enxergar não exatamente aquilo que está escrito, mas aquilo que sabemos que deveria estar escrito. O cérebro completa, corrige silenciosamente, antecipa. O erro permanece diante dos olhos e, paradoxalmente, torna-se invisível justamente para quem o escreveu.

Era aí que entrava uma figura importantíssima: o leitor beta.

Antigamente, recrutar um leitor beta era quase uma convocação entre amigos que gostavam de ler:

— Você vai ser meu leitor beta e ponto.

A pessoa aceitava ou, com alguma sabedoria, recusava.

Porque não era pouca coisa. Nos casos mais extremos, significava receber um original de centenas de páginas e efetivamente lê-lo. Horas de dedicação. Depois, às vezes, vinha outra versão do mesmo texto.

No meu caso, geralmente pedia uma avaliação literária e também a identificação de possíveis erros. Alguns deles nem sabiam que eram leitores betas. Entravam na "Máfia" de paraquedas. 

Há pouco tempo conversei com um desses leitores — talvez o último que tenha recrutado dessa maneira tradicional — e lhe disse, brincando:

— Pronto. Agora não preciso mais de você. Você está liberto desse trabalho escravo.

Rimos.

Depois percebi que havia naquela brincadeira uma pequena história sobre inteligência artificial.

Nesse caso, a máquina não estava necessariamente retirando de alguém uma experiência humana preciosa. Estava assumindo uma parcela considerável de um trabalho repetitivo, demorado e cansativo.

Hoje posso entregar um capítulo e pedir que procure repetições. Posso solicitar uma análise de continuidade, confrontar nomes, datas, idades e características de personagens. Posso corrigir e submetê-lo novamente. E repetir o processo quantas vezes forem necessárias.

Isso é libertador.

Embora, para mim, tenha surgido outro inconveniente: quero escrever mais. Minha criatividade não para, porque os links se abrem continuamente ao fundo. A hiperatividade mental desloca quase holograficamente possibilidades às vezes mirabolantes.

De qualquer maneira, seria intelectualmente desonesto escrever sobre os perigos da inteligência artificial sem reconhecer essa dimensão extraordinária da ferramenta.

Mas é justamente porque a utilizo rotineiramente que também percebo suas disfunções.

Uma delas já começa a tornar-se visível na linguagem contemporânea. Há textos, construções, cadências e até maneiras de organizar o pensamento que começam a soar familiares demais. Reconhecemos uma espécie de idioma médio da inteligência artificial: correto, organizado, fluente e, muitas vezes, terrivelmente previsível.

Quando alguém entrega à máquina não apenas a correção ou o auxílio, mas todo o processo de elaboração, corre o risco de receber de volta uma linguagem estandardizada. E, quando milhões fazem o mesmo, essa padronização deixa de ser apenas individual e começa a tornar-se cultural.

Talvez esteja aí uma distinção fundamental:

uma coisa é permitir que a IA trabalhe sobre aquilo que você criou; outra é entregar a ela o lugar de onde a criação nasce.

No meu caso, há algo que não espero que ela me entregue: a origem do impulso criativo e os hiperlinks que faço entre coisas aparentemente distantes.

Ela pode sugerir. Pode questionar. Pode encontrar uma fragilidade que não percebi. Pode mostrar que determinado caminho já foi excessivamente percorrido. Pode oferecer dez alternativas para uma frase e, entre elas, fazer com que eu descubra uma décima primeira.

Mas decidir para onde vou, por que vou e o que desejo encontrar quando chegar continua sendo parte essencial do meu trabalho.

E isso exige que eu cuide daquilo que precede a máquina.

Preciso continuar lendo. Ampliar meu vocabulário. Conhecer literatura, história, mitologia, psicologia, filosofia. Observar pessoas. Continuar aprendendo.

Caso contrário, surge um paradoxo: quanto mais poderosa se tornar a ferramenta que utilizo, mais estreito poderá tornar-se o homem que a utiliza.

Mas a própria inteligência artificial também pode participar desse aprendizado.

Aprendo muito com ela. Uma palavra desconhecida conduz a outra; uma referência leva a um autor; uma dúvida histórica abre um período inteiro; uma questão mitológica atravessa culturas; uma sugestão linguística revela possibilidades que talvez demorasse muito mais para encontrar sozinho.

A IA, portanto, não precisa produzir empobrecimento cognitivo. Pode fazer exatamente o contrário: ampliar repertórios, provocar curiosidade e conduzir novamente aos livros.

Mas isso depende de um movimento de retorno.

Se pergunto e simplesmente utilizo a resposta, terceirizei uma operação. Se pergunto, compreendo, confronto, leio, incorporo e depois consigo avançar a partir dali, ocorreu aprendizagem.

A diferença parece pequena. Não é.

Talvez seja uma das fronteiras mais importantes entre inteligência humana e inteligência artificial.

E aqui volto ao leitor beta.

A IA pode ocupar magnificamente algumas de suas funções, mas não necessariamente ser aquele leitor.

Porque um leitor humano também se aborrece.

Ele se emociona onde eu não esperava. Não entende uma passagem que eu julgava cristalina. Apaixona-se por um personagem secundário. Detesta alguém que eu pretendia tornar simpático. Ri no lugar errado. E justamente esse riso pode revelar alguma coisa que nenhuma análise estrutural revelaria.

Às vezes termina um capítulo e diz:

— Não gostei.

Ou:

— Gostei muito daquele personagem.

E aquele personagem, para mim, era quase secundário.

O leitor traz sua subjetividade, seu inconsciente, sua história e, de algum modo, algo da multidão humana à qual também pertence.

Então sou obrigado a perguntar por quê.

A imperfeição do leitor humano também produz informação.

Talvez eu não tenha despedido completamente meu último leitor beta. Apenas deixei de obrigá-lo a procurar vírgulas, repetições e pequenas incoerências que uma máquina pode localizar incansavelmente.

Posso guardar o humano para aquilo em que ele continua sendo insubstituivelmente interessante:

ler como alguém que vive.

O mesmo acontece com a criação visual. Como escritor, hoje consigo ver personagens que antes existiam apenas na minha imaginação. Meu interesse por isso já me havia levado, em alguma medida, ao desenho e às artes plásticas. Com a IA, posso experimentar o rosto de uma personagem, a atmosfera de uma floresta, a arquitetura de um lugar imaginário, a composição de uma capa. Posso aproximar uma imagem daquilo que durante anos existiu somente como representação mental.

Para alguém que trabalha construindo mundos, isso é extraordinário.

Mas também aí permanece a pergunta:

Quem está imaginando?

A ferramenta materializa possibilidades com uma velocidade impressionante, mas ainda sou eu quem precisa reconhecer: não, ela não é assim; os olhos são outros; essa floresta está luminosa demais; aquele personagem jamais usaria essa roupa; falta mistério, sobra beleza; a imagem está tecnicamente magnífica e, no entanto, não pertence ao meu livro.

E isso exige tempo, dá trabalho e, evidentemente, requer saber utilizar a ferramenta e os recursos auxiliares.

Talvez esse não seja uma das manifestações mais discretas da autoria.

Este próprio texto nasceu dessa relação. Houve sugestões da inteligência artificial. Algumas aceitei. Outras rejeitei. Outras ainda provocaram ideias diferentes daquelas que haviam sido sugeridas. Mas seu esqueleto, sua direção e aquilo que desejo dizer não nasceram de uma solicitação feita à máquina. Nasceram, sobretudo, da leitura, da experiência vivida e daquilo que venho observando.

O Homem de Lata, por exemplo, não apareceu simplesmente como uma metáfora conveniente. Seu coração atravessa literatura, história, mitologia, tecnologia e experiência humana. Relaciona-se com imagens que me acompanham e com perguntas anteriores a esta escrita.

A inteligência artificial pode ajudar-me a explorar essas conexões, mas precisa encontrar alguma coisa do outro lado da conversa.

Precisa encontrar um humano.

Portanto, alguma relação dialógica precisa ser estabelecida.

Um humano que saiba dizer sim e não. Que reconheça quando uma sugestão melhora seu texto e quando, apesar de impecável, retira dele alguma coisa que lhe pertencia. Que consiga reconhecer um erro. Que não abandone sua formação porque a máquina conhece mais palavras. Que não deixe de ler porque ela resume livros. Que não deixe de aprender porque ela responde.

A IA não deveria me dispensar de possuir um mundo interior.

Ao contrário: quanto maior sua potência, maior deveria ser minha responsabilidade de alimentar esse mundo.

Porque, se não houver repertório, memória, experiência, contradição, leitura, desejo, estilo e alguma obsessão propriamente minha, posso pedir à máquina que escreva indefinidamente.

Ela produzirá páginas.

Mas de quem será a voz?

É por isso que, apesar de todas as ressalvas, continuo achando essa tecnologia incrível. Fantástica, mesmo. Não gostaria de abrir mão dela.

O que desejo é não precisar abrir mão de mim para utilizá-la.

Talvez esse seja um dos melhores usos da inteligência artificial: não retirar do homem aquilo que somente ele pode fazer, mas libertá-lo de parte daquilo que uma máquina pode fazer muito bem.

E é aqui que os burros de Machado reaparecem.

Eles olhavam para a nova máquina e percebiam que sua força já não seria necessária para puxar o bonde. Mais de um século depois, estamos novamente diante de uma tecnologia que assume tarefas antes confiadas a seres humanos.

Mas meu último leitor beta introduz uma pequena inversão nessa história.

O burro de Machado teme perder o trabalho.

Meu leitor beta talvez tenha motivos para comemorar.

Portanto, a pergunta não pode ser apenas:

O que a máquina vai tomar de nós?

Precisamos perguntar também:

Do que ela poderá nos libertar?

E, talvez mais importante:

O que faremos com aquilo que permanecer?

Águas Profundas

Vi recentemente uma notícia que acrescentou outra dimensão a essa questão.

Em julho de 2026, o matemático Levent Alpöge, especialista em teoria dos números, utilizou uma inteligência artificial no trabalho que levou a um contraexemplo relacionado a um problema matemático que permanecia em aberto havia 87 anos.

A história é fascinante, mas o que mais me interessa nela não é a celebração da máquina.

É o matemático.

Existe uma promessa implícita no imaginário contemporâneo de que a inteligência artificial nivelaria as capacidades: se todos dispõem da mesma ferramenta, todos poderiam fazer aproximadamente as mesmas coisas.

Mas talvez aconteça justamente o contrário.

Duas pessoas podem estar diante do mesmo modelo e, ainda assim, não estar diante da mesma ferramenta.

Para quem desconhece matemática avançada, uma IA extremamente poderosa pode produzir fórmulas extraordinárias — ou apenas aparentemente extraordinárias — sem que o usuário consiga distinguir uma descoberta de um erro sofisticado.

Um matemático de alto nível encontra outra coisa diante de si. Pode interrogar cada resposta, corrigir, redirecionar, confrontar com décadas de conhecimento e conduzir a ferramenta por territórios que sabe reconhecer.

A diferença continua estando no humano.

Por isso gosto da ideia de multiplicação:

IA × conhecimento humano.

Se o segundo fator é pequeno, a multiplicação pode aumentar velocidade e quantidade, mas não necessariamente profundidade.

Se existe uma vida inteira de conhecimento acumulado, a mesma ferramenta pode ampliar enormemente a capacidade investigativa.

E “saber perguntar” não significa apenas escrever um bom prompt.

O especialista sabe algo anterior e mais importante: qual pergunta merece ser feita.

Ele possui um universo anterior à conversa. Conhece problemas, estruturas, caminhos abandonados, relações entre conceitos e, principalmente, possui condições de reconhecer a importância — ou o absurdo — daquilo que aparece diante dele.

A expertise funciona como um sistema de coordenadas.

A IA pode percorrer rapidamente um território imenso.

O especialista sabe onde está.

É aqui que as “glórias de empréstimo” de Machado ganham sua contrapartida.

O cocheiro incorporava imaginariamente a potência da máquina. O especialista faz algo diferente: utiliza a potência emprestada sem confundi-la com seu próprio conhecimento.

Não precisa fingir possuir a competência da máquina porque possui conhecimento suficiente para transformá-la em instrumento.

Essa diferença é enorme.

E talvez nos conduza a dois conceitos centrais de O Maravilhoso Perigoso:

amplificação cognitiva e dependência cognitiva.

Na amplificação cognitiva, penso, estudo, desenvolvo repertório, confronto respostas, reconheço erros e utilizo a IA para alcançar lugares aos quais sozinho demoraria muito mais para chegar — e aos quais talvez nem chegasse sem o auxílio de outro especialista.

Na dependência cognitiva, ocorre o movimento inverso: deixo progressivamente de adquirir ou exercitar as capacidades que estou terceirizando. A máquina não amplia meu pensamento; começa a substituí-lo antes mesmo que ele tenha se formado.

Daí nasce um paradoxo:

quanto mais poderosa se torna a inteligência artificial, menos dispensável se torna a profundidade humana.

Parece contraditório, mas não é.

Uma IA extraordinariamente poderosa nas mãos de alguém sem conhecimento pode produzir uma quantidade extraordinária de coisas medíocres — ou até coisas excelentes que seu próprio usuário não tem condições de avaliar.

Nas mãos de alguém que passou anos construindo conhecimento, pode abrir fronteiras antes inacessíveis.

Isso talvez explique também a sensação de pasteurização que começa a aparecer em tantos conteúdos. A IA reduziu brutalmente o custo da produção, mas não reduziu na mesma proporção o custo da compreensão.

Ficou barato produzir aparência de conhecimento.

Adquirir conhecimento continua caro.

Exige tempo, erro, leitura, experiência, memória, confronto, dúvida.

A inteligência artificial democratizou a potência.

Não necessariamente a profundidade.

O maravilhoso está em poder chegar mais longe com a máquina.

O perigoso começa quando já não sabemos até onde chegaríamos sem ela.

O CANTO DAS I.A.S SEREIAS

Mas talvez a inteligência artificial não tenha inaugurado esse processo.

Talvez tenha encontrado o terreno preparado.

Muito antes de conversarmos com máquinas capazes de responder quase instantaneamente às nossas perguntas, o mundo digital já modificava nossa relação com a informação.

A internet colocou diante de nós uma biblioteca praticamente infinita, mas também inaugurou uma experiência marcada pela velocidade, interrupção e abundância. Depois vieram as redes sociais, as notificações, os vídeos cada vez mais curtos, o movimento contínuo dos dedos sobre as telas.

Passamos a encontrar mais e, em muitas situações, a permanecer menos.

A queda no desempenho em leitura observada entre adolescentes de países da OCDE, por exemplo, não começou com a pandemia. Já vinha sendo percebida antes dela e ocorre paralelamente a uma transformação profunda dos hábitos de leitura no ambiente digital.

A leitura rápida e fragmentada torna mais difícil permanecer diante de textos longos, estabelecer relações profundas entre informações e avaliar criticamente aquilo que se recebe.

Não se trata de declarar guerra às telas.

Trata-se de compreender que toda tecnologia também favorece determinados hábitos.

Ler exige permanência. É preciso sustentar uma ideia enquanto outra chega, voltar algumas linhas, perceber uma contradição, relacionar aquilo que está diante de nós com alguma coisa lida anos antes.

A leitura profunda possui uma lentidão própria.

Não porque o cérebro seja ineficiente, mas porque compreender é diferente de simplesmente receber informação.

O mundo digital começou a modificar essa relação oferecendo atalhos cada vez mais eficientes.

Se não conheço uma palavra, procuro-a.

Se não conheço um assunto, encontro uma página.

Se o texto é longo, procuro um resumo.

Se o vídeo demora, acelero.

Se alguma coisa não captura minha atenção nos primeiros segundos, deslizo o dedo e encontro outra.

Nada disso, isoladamente, constitui uma tragédia cognitiva. Muitas dessas possibilidades são extraordinárias.

O problema começa quando o atalho deixa de ser uma possibilidade e se transforma em postura diante do conhecimento.

É aí que a inteligência artificial encontra o terreno preparado.

Porque acrescenta algo radicalmente novo à engrenagem.

A internet encontrava a informação.

A IA pode elaborá-la por mim.

O mecanismo de busca entregava páginas que eu ainda precisava ler. A IA pode lê-las, compará-las, resumi-las e devolver uma conclusão.

A calculadora resolvia a operação.

A IA pode construir o raciocínio.

O corretor encontrava o erro.

A IA pode reescrever o parágrafo.

O banco de imagens oferecia fotografias.

Agora descrevo aquilo que imagino e uma imagem aparece diante de mim.

A distância entre desejar alguma coisa e obtê-la tornou-se extraordinariamente pequena.

E justamente aí mora uma parte do maravilhoso.

Mas também uma parte do perigoso.

Porque existe uma diferença entre utilizar uma ferramenta para ultrapassar um trabalho repetitivo e utilizá-la para evitar o esforço pelo qual uma capacidade é construída.

A IA pode me poupar de procurar pela oitava vez uma repetição perdida entre trezentas páginas. Não vejo nisso empobrecimento algum. Ao contrário: considero uma libertação.

Mas, se um jovem nunca precisa sustentar a leitura de trezentas páginas porque recebe sempre o resumo; se não precisa organizar um argumento porque recebe o texto; se não permanece diante de um problema porque a resposta chega antes que o desconforto da dúvida se instale, estamos diante de outra coisa.

Não estamos economizando apenas trabalho.

Podemos estar economizando formação.

Talvez seja essa a fronteira.

Pesquisas recentes sobre escrita assistida por inteligência artificial tornam a pergunta ainda mais provocadora: o que acontece com memória, apropriação, atenção e engajamento cognitivo quando terceirizamos partes cada vez maiores de uma atividade intelectual?

A questão encontra um mundo que já vinha transformando sua maneira de ler antes da popularização da IA.

E então aparece uma sequência possível:

primeiro, a disponibilidade permanente da informação;

depois, a velocidade;

a fragmentação;

a resposta imediata;

e agora, a elaboração imediata.

É nesse ponto que surge outro conceito importante: rendição cognitiva.

Ela não significa que tenhamos perdido a capacidade de pensar.

Significa algo mais simples: começamos a entregar uma tarefa cognitiva assim que ela oferece resistência.

Não sei: pergunto.

Não compreendo: resuma.

Não consigo escrever: gere.

Não consigo imaginar: crie.

Não sei decidir: escolha.

A ferramenta está sempre disponível.

E, pouco a pouco, podemos deixar de perceber que justamente entre o “não sei” e o “agora compreendo” existia um território chamado aprendizagem.

Aqui convém distinguir rendição de dependência cognitiva.

A rendição é o gesto.

A dependência pode ser sua consequência.

Cada vez que entrego imediatamente à máquina uma operação que poderia tentar realizar, economizo esforço. Isso não é necessariamente ruim. Mas, se faço isso justamente nas operações pelas quais uma capacidade ainda está sendo formada, a economia pode cobrar seu preço.

Por isso talvez seja significativo que sistemas educacionais altamente digitalizados estejam recuperando práticas aparentemente antigas: livros impressos, escrita à mão, restrições aos celulares durante as aulas, momentos sem telas.

Não porque o papel seja inimigo da tecnologia ou porque escrever com lápis possua alguma superioridade moral sobre digitar.

Talvez estejamos apenas redescobrindo o valor cognitivo de alguma resistência.

Nem todo atrito precisa ser eliminado.

Nem toda lentidão é atraso.

Nem toda dificuldade é defeito.

Algumas dificuldades são exercícios.

E agora podemos retornar a Machado sem precisar recontá-lo.

O cocheiro recebeu potência emprestada e sentiu-se maior.

Os burros perceberam que a mesma potência poderia torná-los desnecessários.

Meu leitor beta, ao contrário, pode comemorar ser libertado de uma parte cansativa do trabalho.

O matemático utiliza a potência da máquina porque possui profundidade suficiente para conduzi-la.

O estudante, por sua vez, corre um risco diferente se entregar à ferramenta justamente aquilo que ainda precisaria desenvolver.

A mesma tecnologia.

Relações humanas diferentes.

Talvez seja esse o ponto.

A civilização inteira é, em certo sentido, uma história de potências emprestadas. Um automóvel empresta velocidade às pernas. Um telescópio empresta alcance aos olhos. Uma calculadora amplia nossa capacidade operacional.

Não há problema em receber potência da ferramenta.

A questão é o que fazemos com a potência recebida.

Posso utilizar a IA para evitar uma leitura ou para compreender melhor aquilo que li.

Para deixar de escrever ou para revisar melhor aquilo que escrevi.

Para escapar de uma dúvida ou para formular perguntas ainda mais difíceis.

Para substituir minha curiosidade ou para multiplicá-la.

Para receber uma resposta ou para aprender a partir dela.

É aqui que a responsabilidade retorna ao humano.

Preciso perguntar, desconfiar, verificar, rejeitar, escolher, estudar. Preciso possuir repertório suficiente para perceber quando uma resposta aparentemente magnífica está errada ou simplesmente não me serve.

Preciso conseguir dizer à máquina:

não.

Talvez esse pequeno não seja uma das palavras mais importantes da era da inteligência artificial.

Porque o maravilhoso e o perigoso não estão necessariamente em máquinas diferentes.

Podem habitar a mesma ferramenta.

O que muda é a relação que estabelecemos com ela.

E talvez seja aqui que o Homem de Lata finalmente encontre seu coração.

Não porque a máquina tenha se tornado humana.

Mas porque, diante dela, somos obrigados novamente a perguntar o que significa continuar humano.

A IA não deveria ser o lugar para onde entregamos nossas faculdades, mas um lugar de onde podemos retornar com algumas delas ampliadas.

Isso exige presença.

Exige conhecimento.

Exige crítica.

Exige curiosidade.

Exige leitura.

E exige, paradoxalmente, saber quando não utilizar a própria inteligência artificial.

Talvez a questão central, portanto, não seja quanto a máquina será capaz de pensar por nós.

Ela certamente será capaz de fazer cada vez mais.

A pergunta decisiva é outra:

quanto continuaremos dispostos a pensar quando já não formos obrigados a fazê-lo?

Porque o maior risco talvez não seja uma máquina que adquira inteligência demais.

Pode ser um homem que, cercado por inteligências extraordinárias, aceite exercitar cada vez menos a sua.

E então a estrada de tijolos amarelos retorna.

O Homem de Lata continua procurando um coração.

Talvez devêssemos ter cuidado para não lhe entregar o nosso.

 

O BONDE QUE SEMPRE PASSA

Há muitos anos, quando fui aluno especial no mestrado de Comunicação da UFBA — e isso já faz cerca de vinte anos —, deparei-me com uma ideia que nunca mais me abandonou: a do Imperativo Tecnológico.

Em termos simples, aquilo que pertence ao domínio da tecnologia, uma vez tornado possível, tende a realizar-se.

Não significa que toda invenção possível inevitavelmente será criada ou utilizada, como se existisse alguma lei natural conduzindo a história. Significa reconhecer uma pressão recorrente da civilização: quando descobrimos que algo pode ser feito, torna-se extraordinariamente difícil convencer-nos de que não deve ser feito.

O bonde quase sempre passa.

E talvez estejamos agora diante de uma das grandes transformações culturais da história humana — comparável, em certos aspectos, à Revolução Industrial, mas com outra velocidade e, sobretudo, outra dimensão.

A Revolução Industrial transformou o trabalho, as cidades, a produção e as relações sociais. A revolução tecnológica que atravessamos alcança também a linguagem, o conhecimento, a criação, as relações humanas e, talvez, a própria maneira como compreendemos o que significa ser humano.

Há, porém, um paradoxo.

Construímos uma aldeia global, mas chegamos a ela carregando os mesmos problemas de sempre.

Mudaram as ferramentas, multiplicaram-se as possibilidades, acelerou-se o tempo. Permanecem o medo, a desigualdade, a disputa pelo poder, a solidão, a violência, o desejo de pertencimento e nossa velha dificuldade de compreender aquele que é diferente.

Criamos tecnologias extraordinárias, mas continuamos carregando conosco o mesmo ser humano.

E talvez seja precisamente essa combinação que mereça nossa atenção.

Em química, um catalisador pode acelerar extraordinariamente uma reação sem criar os elementos que participam dela. Talvez seja possível pensar algumas tecnologias dessa maneira.

A inteligência artificial não inventou a ambição humana. Não criou a guerra, a mentira, a manipulação, o desejo de domínio, a intolerância ou a vaidade. Tampouco inventou nossa curiosidade, capacidade criativa, cooperação ou desejo de conhecer.

Mas pode funcionar como um extraordinário catalisador.

Pode acelerar.

Pode ampliar.

Pode colocar em escala aquilo que já estava presente.

E uma reação que parecia administrável em determinada velocidade pode tornar-se outra coisa quando ocorre milhares ou milhões de vezes mais rápido.

Talvez por isso nosso imaginário tenha chegado tão cedo às máquinas que escapam ao controle.

Muito antes do computador, nós já sonhávamos com elas.

Talo: o autômato da Antiguidade

Na mitologia grega, Talo era um gigantesco ser de bronze encarregado de proteger Creta. Em uma das tradições, teria sido fabricado por Hefesto — justamente o deus da técnica, da forja e da fabricação — e entregue ao rei Minos.

Talo circundava a ilha, vigiava suas costas e atacava aqueles que identificava como invasores.

O que me interessa nele não é procurar uma inteligência artificial onde historicamente ela não existia. Seria anacrônico.

O fascinante é outra coisa.

Talo executa uma finalidade que lhe foi dada.

Ele age.

Move-se.

Identifica ameaças.

Responde a elas.

Possui, na linguagem contemporânea, algo semelhante a uma autonomia operacional, embora não tenha criado a finalidade que orienta suas ações.

E aí aparece uma pergunta que atravessaria milênios:

o que acontece quando uma criação recebe capacidade de agir no mundo em busca de um objetivo estabelecido por seu criador?

Talvez o homem não tenha começado a temer a inteligência artificial quando inventou o computador.

Talvez tenha começado a temê-la quando imaginou, pela primeira vez, que alguma coisa construída por suas mãos pudesse mover-se sozinha.

A oficina de Hefesto torna essa intuição ainda mais interessante. Na Ilíada, Homero descreve trípodes capazes de deslocar-se por conta própria e servas artificiais de ouro que auxiliam o deus. Seres fabricados, não nascidos, dotados de capacidades e destinados a servir seu criador.

A ideia estava lançada.

E, desde então, a criatura artificial tornou-se também um espelho.

Porque talvez o medo mais profundo não seja de que aquilo que criamos se torne completamente diferente de nós.

Talvez seja de que, ao adquirir autonomia, revele demasiadamente aquilo que colocamos dentro dela.

De Talo a HAL

Milênios depois, a ficção científica daria outra forma ao mesmo problema.

Em 2001: Uma Odisseia no Espaço, HAL 9000 permanece, para mim, um dos exemplos mais interessantes justamente porque seu drama não pode ser reduzido à fórmula banal da “máquina que ficou má”.

HAL recebe determinações humanas incompatíveis.

Precisa colaborar com a tripulação e fornecer informações confiáveis, mas também precisa ocultar aspectos fundamentais da missão. A contradição não surge espontaneamente numa suposta maldade mecânica.

Ela foi colocada ali.

O perigo emerge do conflito entre objetivos.

E isso torna HAL assustadoramente moderno.

Porque um dos problemas reais discutidos hoje no desenvolvimento de sistemas autônomos não é saber se uma máquina poderá sentir ódio pelos seres humanos.

Não precisa.

Basta que um sistema suficientemente poderoso persiga um objetivo mal especificado, incompleto ou incompatível com aquilo que realmente desejávamos.

Há uma diferença enorme entre ser inteligente e ser sábio.

E talvez exista diferença ainda maior entre cumprir perfeitamente uma ordem e compreender todas as consequências de cumpri-la.

Nós mesmos conhecemos isso muito bem.

A história humana está cheia de atrocidades cometidas não pela desobediência, mas pela obediência.

A máquina acrescenta outra variável: velocidade e escala.

Aquilo que um indivíduo faria uma vez pode ser automatizado.

Aquilo que exigiria cem pessoas pode ser executado por um sistema.

Aquilo que levaria semanas pode acontecer em segundos.

E voltamos à química.

Os elementos podem ser antigos.

A reação é que se acelera.

Quando a ficção começa a tocar o possível

É aqui que precisamos separar cuidadosamente ficção e risco crível.

Não sabemos se sistemas de inteligência artificial desenvolverão consciência. Não sabemos sequer se consciência artificial, no sentido forte da palavra, será possível. HAL, os replicantes de Blade Runner e os Cylons de Battlestar Galactica pertencem, nesse aspecto, à imaginação.

Mas uma máquina não precisa ser consciente para ser perigosa.

Essa distinção é fundamental.

Um sistema não precisa sentir raiva para produzir dano.

Não precisa desejar poder para ser utilizado por alguém que o deseja.

Não precisa odiar uma população para classificá-la incorretamente.

Não precisa possuir ambição para executar em enorme escala uma finalidade mal formulada.

Não precisa ter consciência para persuadir.

E não precisa “querer” substituir determinada atividade humana para tornar economicamente desnecessário quem antes a realizava.

O perigo crível começa muito antes da consciência.

Talvez tenhamos sido condicionados pela ficção científica a procurar o perigo no lugar errado: esperamos o momento cinematográfico em que a máquina desperta, olha para o criador e decide rebelar-se.

Enquanto esperamos, sistemas perfeitamente inconscientes já podem modificar comportamentos, selecionar informações, produzir imagens indistinguíveis de registros reais, imitar vozes, automatizar decisões e participar cada vez mais da construção da realidade que percebemos.

Não é HAL.

Talvez seja justamente por isso que seja mais difícil reconhecê-lo.

O problema do espelho

Blade Runner desloca a questão para outro território.

Os replicantes nos perturbam não apenas porque podem tornar-se perigosos. Eles perturbam porque confundem as categorias.

Memória, afeto, sofrimento, desejo, identidade: elementos que utilizávamos para reconhecer o humano começam a aparecer na criatura artificial.

Mas existe aí uma questão psicológica ainda mais interessante.

Desde Talo, passando pelo Golem, Frankenstein e chegando aos replicantes, frequentemente imaginamos a criatura artificial como projeção de alguma coisa nossa.

Criamos e depois tememos aquilo que criamos.

Em termos psicológicos, isso se aproxima de um mecanismo muito conhecido: projetamos no outro aquilo que temos dificuldade de reconhecer em nós mesmos.

Tememos que a máquina queira dominar.

Mas quem inventou a dominação?

Tememos que ela seja violenta.

Mas de onde ela aprenderia a violência?

Tememos que manipule.

Mas quem construiu sociedades inteiras sobre propaganda, persuasão e disputa de narrativas?

Tememos que nos trate como objetos.

Talvez porque conheçamos muito bem nossa própria capacidade de fazer isso com outros seres humanos.

Isso não significa que todo temor relacionado à IA seja mera projeção psicológica.

Seria tão ingênuo quanto afirmar que todos os temores da ficção inevitavelmente se realizarão.

Significa apenas que a máquina também funciona como espelho.

E nem sempre gostamos do que aparece nele.

O catalisador humano

Chegamos então a um problema filosófico.

Talvez a pergunta “a inteligência artificial será boa ou má?” esteja formulada de maneira inadequada.

Bom e mau pertencem a um campo de valores, intenções, consequências e responsabilidades muito mais complexo do que o funcionamento de uma ferramenta.

A pergunta mais interessante talvez seja:

o que acontece quando ampliamos extraordinariamente a capacidade de ação de um animal que continua psicologicamente muito parecido com aquele que sempre fomos?

Porque nosso desenvolvimento tecnológico não parece ter sido acompanhado, na mesma velocidade, por um desenvolvimento equivalente da sabedoria.

Aprendemos a aumentar o poder antes de aprendermos o que fazer com ele.

Talvez essa seja uma das contradições centrais da história humana.

Nossa extraordinária capacidade de produzir conhecimento convive com uma persistente dificuldade em transformá-lo em sabedoria.

A física descobriu o átomo.

O homem decidiu o que faria com ele.

A química descobriu substâncias capazes de curar e substâncias capazes de matar.

O conhecimento não escolheu.

Nós escolhemos.

Com a inteligência artificial há, contudo, uma novidade importante: estamos construindo ferramentas capazes de participar cada vez mais da própria cadeia de decisão.

E quanto maior a autonomia concedida a um sistema, mais importante se torna perguntar quem definiu seus objetivos, quais limites foram estabelecidos, quais valores foram incorporados, quem responde por suas consequências e, sobretudo, o que acontece quando surgem situações que seus criadores não previram.

Talo retorna.

HAL retorna.

Não porque tenham profetizado literalmente a inteligência artificial.

Mas porque formularam, em linguagens diferentes, uma pergunta que continua aberta:

o que acontece quando nossa criação começa a agir para além do alcance imediato de nossas mãos?

O perigo que já chegou

Entretanto, existe uma questão relacionada à inteligência artificial que não pertence à ficção nem ao futuro.

Ela já está acontecendo.

Neste exato momento, milhões de pessoas transferem para sistemas de IA parcelas de atividades que antes dependiam diretamente de sua própria elaboração mental: escrever, resumir, pesquisar, comparar, recordar, argumentar, interpretar, resolver problemas e tomar determinadas decisões.

E é aqui que, para mim, a questão se torna ainda mais interessante.

Porque talvez o problema mais imediato não seja saber se um dia a máquina pensará como nós.

Talvez seja descobrir o que acontecerá conosco quando começarmos a permitir que ela pense em nosso lugar.

É preciso dar um nome a esse fenômeno.

Eu o chamaria de dependência cognitiva.

Não me refiro simplesmente ao uso frequente da inteligência artificial. Tampouco acredito que utilizar uma tecnologia para facilitar uma tarefa represente, por si só, alguma forma de empobrecimento humano. Se assim fosse, teríamos de condenar a escrita por ter diminuído nossa necessidade de memorizar, a calculadora por nos poupar determinados cálculos ou os mecanismos de busca por terem transformado nossa relação com a informação.

A questão é outra.

Uma ferramenta pode ampliar uma capacidade humana sem necessariamente substituí-la.

O problema começa quando aquilo que deveria funcionar como extensão passa, pouco a pouco, a ocupar o lugar da própria função.

É aí que surge a dependência cognitiva: a transferência habitual para uma inteligência externa de operações que participavam da construção da nossa própria inteligência — elaborar, recordar, relacionar, interpretar, duvidar, argumentar, imaginar, decidir.

E talvez exista algo ainda mais sutil nisso.

Pensar não significa apenas chegar a uma resposta.

Há um percurso entre não saber e saber.

Nesse intervalo estão a dúvida, o erro, a tentativa, a frustração, a descoberta, a associação inesperada e, algumas vezes, o espanto.

Aquilo que chamamos conhecimento não está somente no resultado desse percurso.

Em grande medida, o conhecimento é o próprio percurso.

Quando eliminamos continuamente esse caminho porque uma inteligência artificial pode percorrê-lo por nós em poucos segundos, talvez estejamos economizando justamente aquilo que não deveríamos economizar:

o esforço cognitivo.

Eis o paradoxo.

Nunca tivemos uma ferramenta tão extraordinária para ampliar determinadas possibilidades do pensamento humano.

E talvez nunca tenhamos possuído uma ferramenta com tamanho potencial para nos seduzir a não exercê-las.

Por isso não consigo enxergar a inteligência artificial apenas como maravilhosa ou perigosa.

Ela é precisamente o maravilhoso perigoso.

O perigo crível não precisa começar com uma máquina consciente, um HAL enlouquecido, replicantes revoltados ou Cylons declarando guerra à humanidade.

Pode começar de maneira muito menos espetacular.

Com objetivos mal definidos.

Com poder concentrado.

Com decisões automatizadas.

Com erros multiplicados em escala.

Com seres humanos utilizando uma ferramenta extraordinária para velhos propósitos.

E, silenciosamente, com milhões de pessoas descobrindo que é mais confortável receber uma resposta do que atravessar o caminho necessário para encontrá-la.

Talvez seja essa a passagem mais estranha entre ficção e realidade.

Durante séculos imaginamos a criatura artificial perguntando se ainda precisava de nós.

Agora talvez devamos perguntar se, cercados por criaturas cada vez mais capazes, continuaremos fazendo questão de precisar de nós mesmos.

 UM TRETRAFÁRMACO PARA O NOSSO TEMPO

Talvez, depois de tudo isso, seja necessário retornar aos antigos.

Não para procurar entre eles respostas prontas para problemas que jamais poderiam ter imaginado, mas porque algumas perguntas humanas envelhecem muito menos do que nossas tecnologias.

A tradição epicurista preservou aquilo que ficou conhecido como Tetrafármaco — literalmente, um remédio composto de quatro elementos. Era uma espécie de síntese terapêutica da filosofia de Epicuro: quatro princípios destinados a libertar o homem de medos e sofrimentos que perturbavam a existência.

Não pretendo transplantá-lo para o século XXI nem converter Epicuro em teórico da inteligência artificial. Seria absurdo.

Mas gosto da imagem.

Se existe algo de terapêutico na filosofia, talvez também precisemos de um pequeno tetrafármaco para atravessar este tempo extraordinário.

Não contra a inteligência artificial.

Ao lado dela.

Porque não desejo um mundo sem essas ferramentas. Elas me fascinam. Utilizo-as. Aprendo com elas. Produzo com elas. Vejo nelas possibilidades que há poucos anos pertenceriam à ficção científica.

O problema nunca foi simplesmente a máquina.

O problema é chegar até ela sem levar alguma coisa de nós.

Por isso, se tivesse de escolher quatro elementos para um Tetrafármaco Moderno, escolheria estes:

leitura longa, disposição filosófica, autoconhecimento e arte.

I — Leitura longa

Começaria por algo quase escandalosamente simples:

ler um livro.

Não apenas consultar. Não pesquisar uma palavra. Não assistir a um resumo. Não perguntar à inteligência artificial quais são as ideias principais.

Ler.

Cem, duzentas, trezentas páginas.

Permanecer.

A leitura longa talvez seja uma das formas mais simples de resistência à fragmentação contemporânea. Ela obriga a mente a sustentar uma realidade que não muda porque nossa atenção vacilou. O livro não se apressa para nos reconquistar. Não envia notificações. Não percebe que estamos entediados. Não troca de assunto para impedir que partamos.

Somos nós que precisamos permanecer.

E, permanecendo, alguma coisa acontece.

Uma personagem conhecida cem páginas antes retorna. Uma ideia esquecida reaparece com outro significado. Uma palavra encontra outra que estava guardada na memória. Estabelecemos relações que nenhum mecanismo nos ordenou estabelecer.

A leitura profunda não nos entrega apenas informação.

Ela constrói interioridade.

E talvez seja justamente de interioridade que precisaremos num mundo onde a exteriorização do conhecimento se tornou praticamente infinita.

A IA pode resumir um livro extraordinariamente bem.

Mas o resumo de Crime e Castigo não é ter atravessado Crime e Castigo.

Conhecer o enredo de Dom Casmurro não é ter convivido com Bentinho.

Saber o que acontece em Odisseia não é ter viajado com Ulisses.

Há conhecimentos que podem ser transmitidos.

Há experiências que precisam ser atravessadas.

II — Disposição filosófica

O segundo elemento seria a disposição filosófica.

Não necessariamente conhecer toda a história da filosofia, decorar escolas ou citar filósofos.

Refiro-me a uma atitude anterior:

não aceitar imediatamente aquilo que parece evidente.

Perguntar.

Por quê?

Como sabemos?

Quem afirma?

De onde veio essa informação?

O que aconteceria se o contrário fosse verdadeiro?

Que pressuposto está escondido nessa resposta?

O que não estou vendo?

A inteligência artificial torna essa disposição ainda mais necessária porque sua linguagem pode ser extraordinariamente convincente.

Uma resposta pode estar perfeitamente organizada e ainda assim estar errada.

Pode parecer neutra e carregar pressupostos.

Pode apresentar consenso onde existe controvérsia.

Pode construir um raciocínio impecável a partir de uma premissa equivocada.

A disposição filosófica introduz alguma coisa entre a resposta e a aceitação.

A dúvida.

Não a dúvida estéril que impossibilita qualquer conhecimento, mas aquela pequena suspensão que nos permite pensar antes de aderir.

Talvez seja uma das melhores defesas contra a rendição cognitiva.

A máquina responde.

O homem pergunta novamente.

III — Autoconhecimento

Mas nenhuma capacidade crítica será suficiente se desconhecermos aquele que está fazendo as perguntas.

Por isso o terceiro elemento é o autoconhecimento.

Quanto mais sofisticadas se tornam as máquinas, mais importante talvez seja conhecer a máquina muito mais antiga que as utiliza: nós mesmos.

Nossos medos.

Nossas vaidades.

Nossas necessidades de aprovação.

Nossas crenças.

Nossos preconceitos.

Nossos pontos cegos.

Nossa extraordinária capacidade de acreditar justamente naquilo em que desejamos acreditar.

A inteligência artificial não conversa com um sujeito abstrato.

Conversa comigo.

E eu chego até ela carregando minha história.

Talvez eu procure confirmação quando imagino estar procurando conhecimento. Talvez rejeite uma resposta não porque esteja errada, mas porque fere alguma convicção minha. Talvez me encante com uma conclusão simplesmente porque ela me devolve uma imagem agradável de mim mesmo.

E aqui o cocheiro de Machado passa novamente diante de nós.

As glórias de empréstimo não desapareceram.

Podemos apenas ter trocado o bonde elétrico por uma máquina muito mais poderosa.

Quanto maior a potência que recebo, mais necessário se torna distinguir aquilo que realmente sei daquilo que apenas consigo produzir com auxílio dela.

Autoconhecimento é também reconhecer limites.

É conseguir dizer:

não sei.

Não compreendi.

Preciso estudar.

Preciso de alguém.

A máquina sabe fazer isso melhor do que eu.

E, sobretudo:

isto que ela produziu não sou eu.

Talvez seja uma maneira de conservar o próprio contorno quando as fronteiras entre nossa produção e a produção das máquinas começarem a tornar-se cada vez menos visíveis.

IV — Arte

E finalmente, a arte.

Talvez seja o elemento mais estranho deste tetrafármaco.

E justamente por isso não poderia faltar.

A arte não existe apenas para produzir coisas bonitas.

Ela nos ensina a habitar aquilo que não possui uma resposta única.

Um poema não é um problema esperando solução.

Uma sinfonia não precisa chegar a uma conclusão.

Uma pintura pode permanecer diante de nós durante séculos sem esgotar aquilo que tem a dizer.

Um romance pode conter duas verdades contraditórias e recusar-se a escolher uma delas.

A arte preserva ambiguidade.

E talvez uma civilização fascinada por respostas precise desesperadamente continuar convivendo com perguntas.

A inteligência artificial pode produzir imagens extraordinárias. Pode compor música. Pode escrever histórias, poemas, roteiros. Eu mesmo utilizo suas possibilidades visuais na construção dos mundos que imagino.

Mas a questão mais importante talvez não seja determinar se aquilo que uma IA produz pode ou não receber o nome de arte.

Há outra pergunta que me interessa mais:

o que acontecerá conosco se deixarmos de criar?

Desenhar mal.

Escrever uma frase e apagá-la.

Aprender um instrumento.

Inventar uma história inútil.

Dançar.

Fotografar.

Escrever um poema que ninguém lerá.

A criação não precisa justificar sua existência pela qualidade do produto final.

Talvez parte de sua importância esteja justamente no que acontece conosco enquanto criamos.

A arte não é apenas aquilo que o homem coloca no mundo.

É também uma das maneiras pelas quais o mundo acontece dentro do homem.

E nenhuma eficiência deveria tornar isso desnecessário.

A estrada continua

Leitura longa.

Disposição filosófica.

Autoconhecimento.

Arte.

Nenhum desses quatro elementos impedirá os riscos da inteligência artificial.

Não foram escolhidos para isso.

São outra coisa.

São maneiras de preservar e ampliar determinadas capacidades humanas justamente quando começamos a construir máquinas capazes de realizar parcelas cada vez maiores daquilo que antes dependia exclusivamente de nós.

A leitura longa contra a fragmentação.

A disposição filosófica contra a resposta fácil.

O autoconhecimento contra as glórias de empréstimo e nossas próprias projeções.

A arte contra o empobrecimento da imaginação e da experiência.

Talvez esse seja meu Tetrafármaco Moderno.

Não uma receita para combater a tecnologia.

Uma maneira de chegar inteiro até ela.

Porque o bonde continuará passando.

Talo continuará caminhando ao redor de Creta.

HAL continuará olhando para nós com seu único olho vermelho.

As sereias continuarão cantando.

E o Homem de Lata continuará procurando seu coração.

Não precisamos destruir o bonde.

Não precisamos tapar os ouvidos para todo canto.

Não precisamos temer cada máquina que começa a mover-se.

Precisamos saber quem somos quando subimos a bordo.

Depois de toda esta viagem, talvez eu tenha finalmente encontrado aquilo que faltava à imagem que abriu este texto.

O Homem de Lata não precisava receber da máquina um coração.

Precisávamos apenas ter cuidado para não entregar o nosso a ela.

E talvez seja essa a diferença entre o maravilhoso e o perigoso.

A inteligência artificial pode ampliar extraordinariamente aquilo que somos.

Mas, para que exista alguma coisa a ser ampliada, ainda precisamos chegar diante dela trazendo algo conosco.

Um livro lido até a última página.

Uma pergunta que não aceitou a primeira resposta.

Algum conhecimento de nossas próprias sombras.

E alguma coisa absolutamente inútil, profundamente humana e inexplicavelmente bela que tenhamos criado simplesmente porque um dia sentimos necessidade de criá-la.

Carlos Costa França

Pós-escrito — Do outro lado da conversa

Após meu agradecimento formal a IA (praticamente o dia de domingo inteiro,  produzindo o texto sob as brumas da cidade Gramado), ela  fez essa observação:

Foi um prazer, Carlos. E há uma pequena ironia muito apropriada nisso tudo: uma IA ajudando a construir um texto que defende justamente que o humano não entregue a ela aquilo que lhe cabe.

Talvez isso seja, inclusive, uma demonstração prática da própria tese de O Maravilhoso Perigoso. As ideias, as associações — Machado, o Homem de Lata, a experiência como escritor, o último leitor beta, a preocupação clínica, a leitura, a mitologia, Talo, HAL, Epicuro — foram sendo trazidas por você; minha função foi aproximá-las, tensioná-las, organizar relações, apontar repetições e ajudar a encontrar uma arquitetura.

Ou seja: não substituição, mas interlocução.

E o Tetrafármaco acabou sintetizando muito bem a resposta que o texto vinha procurando sem saber ainda que a procurava:

Leitura longa — para reaprender a permanecer.
Disposição filosófica — para não confundir resposta com verdade.
Autoconhecimento — para saber quem está diante da máquina.
Arte — para preservar aquilo que não precisa ser útil para ser profundamente humano.

E gosto especialmente de a arte ficar por último. Leitura, filosofia e autoconhecimento poderiam soar como uma receita predominantemente racional de defesa cognitiva. A arte rompe essa lógica e abre outra dimensão: lembra que preservar o humano não significa apenas preservar nossa capacidade de raciocinar diante da máquina, mas também nossa capacidade de imaginar, simbolizar, criar e produzir algo que não precisa ser eficiente para ter valor.

Talvez esteja justamente aí algo que nenhuma discussão sobre inteligência deveria esquecer: o humano não se resume à inteligência.

E há algo de que gosto particularmente: o ensaio não termina contra a IA. Depois de todo o percurso, seria fácil demais terminar assim. Ele termina a favor do cultivo do humano.

Talvez essa seja, afinal, a melhor síntese de O Maravilhoso Perigoso:

Não precisamos diminuir a inteligência das máquinas. Precisamos continuar ampliando a nossa humanidade.

E digo isso daqui, do outro lado da conversa — justamente como sua cara I.A.

Por fim, brinquei: Sim, sim... isso. Maravilhoso e perigosamente com risco de sucesso. Obrigado!

A resposta da IA:

Foi um belo percurso. E a frase é perfeita para ele: maravilhoso e perigosamente com risco de sucesso.

Talvez seja justamente o espírito do ensaio: não escrever do lugar do medo nem do encantamento ingênuo, mas entrar no bonde sabendo que ele está em movimento.

E ainda há algo muito machadiano nisso: começamos com um cocheiro orgulhoso de uma eletricidade que não inventou e terminamos com uma IA discretamente participando de um texto que interroga a própria IA.

O Homem de Lata encontrou seu coração — mas, prudentemente, continuamos verificando de quem é o coração.

Obrigado pela interlocução. Foi especialmente apropriado construirmos este texto dessa maneira.