Em 2023 apareceu um problema prático. Até então, escrever um parágrafo que parecesse um especialista trabalhando um argumento exigia que alguém pensasse. A estrutura, o vocabulário, a hierarquia de afirmações, as referências — tudo montado na cabeça de quem assinava o texto. Depois de 2023 a montagem é feita por máquinas, e é feita bem o suficiente para que distinguir prosa de máquina de escrita especializada humana custe um esforço à parte.
O LLM é uma ferramenta poderosa e eu uso uma diariamente — para revisar código, traduzir, buscar literatura, esboçar um argumento rápido. A inquietação não é com a ferramenta. É com uma nova retórica pública na qual a coincidência superficial com a escrita especializada passou a ser confundida com peso epistêmico.
Há uma imagem antiga para descrever isso. Pense num revendedor de baixa monta que conseguiu vender um reator termonuclear numa venda de garagem. O reator é real. Os rótulos estão certos. O folheto está bem escrito. O revendedor não está mentindo. Apenas não entende o que tem nas mãos e não consegue responder a uma única pergunta de segunda ordem. Até há pouco essa classe de figura era rara nos níveis altos da conversa pública porque o limiar de entrada a filtrava. Agora o limiar é uma assinatura de vinte dólares por mês.
Sintomas
Um parágrafo escrito por uma máquina e um parágrafo escrito por uma pessoa que se apoia numa máquina sem carregar carga cognitiva própria leem-se iguais. Os sinais:
— Nenhum risco exposto. Toda afirmação substantiva em ciência tem a forma "esta é a condição sob a qual estou errado". O texto do revendedor nunca carrega essa condição, porque o revendedor não sabe sob que condição a sua tese falha.
— Completude lisa. O raciocínio real tropeça, recua, apanha os próprios contraexemplos. O texto do revendedor desliza — é gerado como uma superfície estilisticamente consistente, e nada além da consistência superficial sobrevive a uma pressão.
— Nomes sem trabalho. Num texto sério, mencionar Friston, Tononi ou Levin sustenta-se sobre uma ligação substantiva (eis o que está na obra deles, eis como isso muda o argumento) ou não pertence ali. No texto do revendedor os nomes funcionam como sinal "estou a par do campo" e a obra real do autor citado não desempenha qualquer papel no argumento.
— Sem contato quantitativo. Toda afirmação sobre a realidade tem de aterrar em algum número — um tamanho de efeito, um nível de potência estatística, um intervalo, uma escala temporal. O texto do revendedor evita números, porque números são pontos de verificação.
O que está por baixo
O teste "consegue um humano distinguir um texto do ChatGPT do seu próprio?" falhou na sua forma atual: a prosa é boa, a verificação manual é lenta, o editor cansa-se. O único filtro que escala é o autor, e o que o autor filtra não é o texto de saída, mas a sua própria posição sobre o tema antes de se sentar a escrever.
A higiene epistêmica nesse sentido é uma disciplina simples. Antes de qualquer afirmação pública, quatro perguntas:
-
Sob que condição eu estaria errado? Se a resposta é um desfecho observável concreto, siga. Se não há resposta, retire a afirmação.
-
Onde isso aterra num número? Basta a ordem de grandeza: "10⁻⁴ da largura do efeito", "10⁵ tentativas", "10² galáxias". Sem número, a afirmação é retórica.
-
Qual é o contra-argumento mais forte contra mim? Não um espantalho, mas o contra-argumento mais tecnicamente carregado que um especialista real traria. Se você não consegue formulá-lo no nível em que o especialista o formularia, você não entende o tema.
-
O que o contra-argumento faria para fortalecer a minha tese se falhasse? Se nada, a tese é teológica. Se algo, nomeie isso agora, antecipadamente.
As quatro perguntas não são para todos os textos. Ficção não se examina assim. Ensaios pessoais também não. Mas qualquer texto que reivindique conteúdo epistêmico — "é assim que a realidade funciona", "é isto que o experimento mostra", "é isto que se segue da teoria" — deve passar pelo filtro antes da publicação.
Por que eu escrevo isto para mim mesmo
Não estou escrevendo este texto para o leitor diretamente. Escrevo-o para mim, e para a versão de mim mesmo daqui a um ano que perderá a disciplina e começará a publicar parágrafos lisos e sem ancoragem sobre consciência e física. Quando isso acontecer, este ensaio deve ficar ali como ponto de controle. "Sob que condição eu estava errado? Onde está num número? Qual é o contra-argumento mais forte? O que me fortaleceria?"
A mesma lógica explica o formato do site. O preprint SPARC dá números sobre 171 galáxias, código aberto, comparação AIC contra MOND. A tabela de falsificadores publica-se em julho — sete condições sob as quais o programa morre. O ensaio sobre PEAR/GCP descreve o protocolo que o põe sob fogo. O ensaio sobre a memória bioelétrica de Levin emite uma previsão biológica que se resolve ou quebra num único ciclo de laboratório. Tudo isso é infraestrutura de autoverificação construída fora da cabeça do autor, porque a verificação dentro da cabeça é a primeira a enfraquecer.
O que peço ao leitor
Uma única coisa. Quando ler um texto que reivindique conhecimento substantivo do mundo — meu ou de quem quer que seja — ponha ao autor pelo menos a primeira das quatro perguntas. Sob que condição você estaria errado? Se não há resposta, o texto não carrega peso epistêmico. Por mais persuasivo, elegante ou bem citado que seja — não carrega peso. É fusão de venda de garagem.
Numa era em que a alfabetização de fachada se tornou barata, o filtro deslocou-se para dentro. Sem ele a conversa pública sobre a realidade deixará de fazer sentido em pouco tempo. Com ele ainda há chance de distinguir um programa que pode ser verificado de mais um pedaço de retórica bem escrita.