В 2023-м появилась практическая проблема. До этого, чтобы написать абзац, который выглядит как осмысленное рассуждение специалиста, нужно было думать. Структуру, словарь, иерархию аргументов, ссылки — всё это собирал в голове кто-то, кто за текстом стоит. После — собирать всё это начали машины, и собирают они на уровне, отличить который от человеческого экспертного письма стало стоить отдельных усилий.
LLM — мощный инструмент, и я пользуюсь им ежедневно: проверка кода, переводы, поиск по литературе, быстрый набросок аргумента. Тревога касается не инструмента, а новой публичной риторики, в которой совпадение поверхностной формы с настоящим экспертным письмом начали путать с эпистемическим весом.
В русскоязычной публичной среде есть для этого хорошее старое слово: барыга. Человек, который перепродаёт термоядерный реактор с гаражной распродажи. Реактор настоящий, надписи правильные, инструкция вкладыша приличная. Барыга не врёт. Он просто не понимает, что у него на руках, и не способен ответить ни на один уточняющий вопрос второго порядка. Раньше барыг этого класса в высокоуровневых разговорах было физически мало — порог входа держал. Сейчас порог опустился до подписки за двадцать долларов в месяц.
Симптомы
Текст, написанный машиной, и текст, написанный человеком, опирающимся на машину без собственной нагрузки, читаются одинаково. Признаки:
— Полное отсутствие выдвинутых рисков. Любой содержательный тезис в науке имеет форму «вот условие, при котором я неправ». Барыжный текст этого условия не содержит никогда, потому что барыга не знает, при каком условии его тезис не работает.
— Гладкая полнота. Настоящее рассуждение спотыкается, отступает, ловит контрпримеры. Барыжный текст плывёт — он генерируется как стилистически согласованная поверхность, и ничего, кроме согласованности, не выдерживает.
— Имена без работы. В научном тексте упоминание Фристона, Тонони или Левина либо стоит на содержательной связи (вот что у них в работе, вот как это меняет аргумент), либо лишнее. В барыжном — имена служат сигналом «я в курсе», а собственно работа упомянутого автора в тексте никак не использована.
— Отсутствие количественного контакта. Любой тезис о реальности должен где-то приземляться в число: размер эффекта, статистическую мощность, диапазон, временной масштаб. Барыжный текст обходит числа, потому что числа — точка проверки.
Что под этим лежит
Тест «отличает ли человек ChatGPT-эссе от своего» в современной форме почти не работает: эссе хорошие, фактчекать их вручную долго, и редактор устаёт. Поэтому единственный масштабируемый фильтр — это сам автор, и фильтрует он не выходной текст, а свою позицию по теме перед тем, как сесть писать.
Эпистемическая гигиена в этом смысле — простая дисциплина. Перед публичным утверждением задайте себе четыре вопроса:
-
При каком условии я неправ? Если в ответе есть конкретный наблюдаемый исход — продолжайте. Если ответа нет — снимите утверждение.
-
Где это приземляется в число? Хотя бы в порядок величины: «10⁻⁴ от ширины эффекта», «10⁵ испытаний», «10² галактик». Без числа утверждение — риторика.
-
Какой самый сильный контраргумент против меня? Не выдуманный соломенный, а максимально техничный. Если вы не можете его сформулировать на уровне специалиста, который придёт его озвучить, — вы не понимаете предмет.
-
Что сделает контраргумент сильнее моего тезиса? Если ничего не сделает, тезис теологический. Если что-то сделает — назовите это, заранее.
Эти четыре вопроса нужны не для всех текстов: художественную прозу и личное эссе ими проверять бессмысленно. Но любой текст, претендующий на эпистемическое содержание — «вот как устроена реальность», «вот что показывает эксперимент», «вот что следует из теории», — должен проходить этот фильтр до публикации.
Зачем самому себе это делать
Я не пишу этот текст к читателю напрямую. Я пишу его к себе — и к будущему себе, который через год потеряет дисциплину и начнёт публиковать гладкие, ничем не приземлённые абзацы про сознание и физику. Когда такое случится, эссе должно стоять как контрольная точка. «При каком условии я был неправ? Где это в числе? Какой самый сильный возражающий? Что меня усилит?»
Эта же логика — почему сайт устроен так, как он устроен. Препринт SPARC даёт числа на 171 галактике, открытый код, AIC-сравнение с MOND. Список фальсификаторов выйдет в июле — семь условий, при которых программа умирает. Эссе про PEAR/GCP описывает протокол, который ставит её под выстрел. Эссе про биоэлектрику Левина выдвигает биологическое предсказание, которое теряется или подтверждается одним лабораторным циклом. Всё это — инфраструктура самопроверки, выстроенная вовне, потому что внутренняя проверка слабеет первой.
Чего я прошу у читателя
Только одного. Когда вы читаете текст, который заявляет содержательное знание о мире — мой или чей-то ещё, — задайте автору хотя бы первый из четырёх вопросов. При каком условии вы были бы неправы? Если ответа нет, текст не несёт эпистемического веса. Сколь угодно убедительный, элегантный, цитатно богатый — он не несёт веса. Это барыжный термояд.
В эпоху, когда фасадная грамотность стала дешёвой, фильтр сместился внутрь. Без него публичный разговор о реальности скоро перестанет иметь смысл. С ним у нас остаётся шанс отличить программу, которую можно проверить, от очередной красивой риторики.