En 2023 apareció un problema práctico. Hasta entonces, para escribir un párrafo con aspecto de especialista que desarrolla un argumento, alguien tenía que pensar. La estructura, el vocabulario, la jerarquía de las afirmaciones, las referencias: todo eso se montaba en la cabeza de quien estaba detrás del texto. Desde 2023 el montaje corre a cargo de las máquinas, y lo hacen tan bien que distinguir su prosa de la de un experto humano exige ya un esfuerzo aparte.
Los modelos de lenguaje son una herramienta potente, y los uso a diario para revisar código, traducir, buscar bibliografía y esbozar un argumento. Lo que me inquieta es el discurso público, donde una superficie pulida que se parece a la escritura experta empieza a tomarse por conocimiento.
Hay una imagen antigua para esto. Imagine a un revendedor de poca monta que ha conseguido vender un reactor termonuclear en un mercadillo de garaje. El reactor es real, las etiquetas son correctas, el folleto está bien escrito, y el revendedor no miente. Sencillamente no entiende lo que tiene entre manos y no sabe responder a ninguna pregunta de segundo orden. Hasta hace poco, figuras así escaseaban en las conversaciones serias, porque la barrera de entrada las dejaba fuera. Ahora la barrera es una suscripción de veinte dólares al mes.
Síntomas
Un párrafo escrito por una máquina y un párrafo escrito por alguien que se apoya en la máquina sin pensar por su cuenta se leen igual. Estas son las señales.
— El autor no arriesga nada. Toda afirmación científica de peso tiene la forma "esta es la condición en la que me equivoco". El texto del revendedor nunca incluye esa condición, porque el revendedor no sabe en qué condición falla su tesis.
— Completitud pulida. El razonamiento de verdad tropieza, retrocede, choca con sus propios contraejemplos. El texto del revendedor se desliza: se genera como una superficie estilísticamente coherente y no resiste ninguna presión que no sea estilística.
— Nombres que no trabajan. En un texto serio, Friston, Tononi o Levin aparecen por algo (esto es lo que hay en su obra, así cambia el argumento); si no, la mención sobra. En el texto del revendedor, los nombres sirven de señal de "estoy al tanto", y la obra del autor citado no desempeña ningún papel en el argumento.
— Ningún número. Toda afirmación sobre la realidad tiene que aterrizar en algún número: un tamaño de efecto, una potencia estadística, un rango, una escala de tiempo. El texto del revendedor esquiva los números, porque es en los números donde se le podría comprobar.
Lo que hay debajo
La prueba de "¿distingue una persona un texto de ChatGPT de uno suyo?" prácticamente ha dejado de funcionar: los textos son buenos, verificar datos a mano es lento, el editor se cansa. El único filtro que escala es el propio autor, y lo que tiene que filtrar es su postura sobre el tema, antes incluso de sentarse a escribir.
En este sentido, la higiene epistémica es una disciplina sencilla. Antes de cualquier afirmación pública, hágase cuatro preguntas.
-
¿En qué condición estaría equivocado? Si la respuesta es un resultado observable concreto, adelante. Si no hay respuesta, retire la afirmación.
-
¿Dónde se convierte esto en un número? Basta el orden de magnitud: "10⁻⁴ del ancho del efecto", "10⁵ ensayos", "10² galaxias". Sin número, la afirmación es retórica.
-
¿Cuál es el argumento más fuerte en mi contra? El más técnico que traería un especialista de verdad, sin hombres de paja. Si no puede formularlo como lo formularía el especialista, no entiende el tema.
-
¿Qué haría que el contraargumento venciera a mi tesis? Si nada podría, la tesis es teológica. Si algo podría, dígalo ahora, de antemano.
Las cuatro preguntas no sirven para todos los textos: no tiene sentido examinar así la ficción o un ensayo personal. Pero cualquier texto que pretenda decir algo sobre el mundo ("así funciona la realidad", "esto muestra el experimento", "esto se sigue de la teoría") debe pasar este filtro antes de publicarse.
Por qué me escribo esto a mí mismo
Escribo este texto ante todo para mí, y para el yo de dentro de un año, que perderá la disciplina y empezará a publicar párrafos pulidos y sin anclaje sobre la consciencia y la física. Cuando eso ocurra, este ensayo será el punto de control: ¿en qué condición me equivocaba? ¿dónde está el número? ¿cuál es la objeción más fuerte? ¿qué haría que me venciera?
La misma lógica explica la forma de este sitio. El preprint se publica junto con código que cualquiera puede volver a ejecutar, y las condiciones en las que el programa muere están escritas en el propio manuscrito. El ensayo sobre PEAR y GCP describe el protocolo que lo pone en la línea de fuego. El ensayo sobre la memoria bioeléctrica de Levin hace una predicción biológica que un solo ciclo de laboratorio confirma o tumba. Todo esto es una estructura de autoverificación montada fuera de la cabeza del autor, porque la verificación de dentro de la cabeza es la primera en flaquear.
Lo que pido al lector
Una sola cosa. Cuando lea un texto que afirma saber algo del mundo, mío o de cualquier otra persona, hágale al autor al menos la primera de las cuatro preguntas: ¿en qué condición estaría usted equivocado? Si no hay respuesta, el texto no tiene peso, por persuasivo, elegante o bien citado que sea. Es el reactor del mercadillo.
El barniz de erudición se ha abaratado, y el filtro se ha desplazado hacia dentro. Sin él, la conversación pública sobre la realidad pronto dejará de tener sentido. Con él, aún podemos distinguir un programa que se puede comprobar de otra pieza de retórica bien escrita.