Бесплатный фрагмент - Слопокалипсис

ВВЕДЕНИЕ

МОМЕНТ, КОГДА ФОРУМЫ ЗАМОЛЧАЛИ

«Форум умер не тогда, когда его закрыли. Он умер тогда, когда перестал быть местом, где говорят люди».

— из прощального поста модератора, 2024

Крючок-сцена

Ветка называлась «Странное поведение при конкурентных запросах к PostgreSQL 14». Вопрос задал человек с ником db_curious, зарегистрированный три дня назад. Вопрос был сформулирован идеально: контекст, версия, конфигурация, шаги воспроизведения, ожидаемое и фактическое поведение. Ни одной опечатки. Ни одного лишнего слова. Ни одной из тех мелких неровностей, по которым опытный глаз узнаёт живого человека — «сорри, если туплю», «вчера полдня убил, но так и не понял», «может, я что-то упускаю, но…».

За первые шесть часов — 47 ответов. Все вежливые, структурированные, с подзаголовками и списками. Один предлагал проверить max_connections. Другой — shared_buffers. Третий

1. work_mem. Четвёртый — effective_cache_size. Каждый ответ был технически корректен. Каждый ответ был бесполезен. Ни один не был связан с

конкретной конфигурацией, которую описал db_curious. Ни один не задавал уточняющего вопроса. Ни один не говорил: «Странно, у меня такого не было, давайте копнём глубже».

На вторые сутки в ветке было 203 комментария. Модератор, человек с 12-летним стажем на площадке и 40 тысячами репутационных баллов, открыл инструменты и прогнал выборку через три детектора. 180 комментариев из 203 содержали признаки генерации. Не обязательно полной — иногда гибридной, когда человек брал ответ LLM и слегка редактировал. Но суть одна: никто из этих

180 не запускал EXPLAIN ANALYZE на реальной базе. Никто не воспроизводил баг. Никто не проверял, работает ли предложенное решение.

Модератор закрыл ветку. Потом закрыл ещё три. Потом написал пост, который через неделю удалил сам — потому что под ним появилось 60 комментариев, и большинство из них тоже были сгенерированы. В том числе соболезнования. В том числе комментарий от db_curious, который к тому моменту уже не существовал как человек: аккаунт был создан ботом для тестирования площадки на устойчивость к слопу. Тест провалился.

Это среда, в которой мы теперь работаем. И самое неприятное в этой истории не то, что 180 комментариев были сгенерированы. Самое неприятное — что первые 47 выглядели как настоящие. Если бы модератор не запустил детекторы, ветка продолжила бы жить. Люди приходили бы, читали, кивали, ставили лайки.

Знание распространялось бы. Просто это знание не имело бы источника. Оно было бы симуляцией знания — формой без содержания, уверенностью без опыта.

Именно так выглядит момент, когда форум замолкает. Не когда его закрывают. Когда он перестаёт быть местом, где говорят люди, — но продолжает издавать звуки.

Парадокс

Давайте посмотрим на два графика.

Первый: объём генерируемого контента. Тексты, код, изображения, ответы на форумах, научные препринты, юридические заключения, медицинские рекомендации. Этот график идёт вверх экспоненциально. По оценкам, к 2026 году более 90% всего текстового контента в интернете будет сгенерировано или существенно отредактировано с помощью ИИ. Это не прогноз футурологов. Это арифметика: себестоимость генерации упала до нуля, а себестоимость публикации не изменилась.

Второй: уровень доверия к контенту. Этот график идёт вниз. Не потому, что люди стали циничнее. А потому, что они перестали понимать, чему верить. Опросы 2024—2025 годов показывают: более 60% профессионалов в IT, медицине, праве и науке говорят, что «не могут отличить сгенерированный контент от написанного человеком» в своей собственной области. Ещё 20%

говорят, что «уже перестали пытаться». Это не скептицизм. Это капитуляция.

Эти два графика пересеклись где-то в конце 2023 года. Точка пересечения — не «инфоперегрузка», как нам говорили десять лет. Это онтологическая эрозия: перестаёт быть понятно, что вообще является свидетельством чьего-то опыта.

Раньше проблема была в том, что информации слишком много. Теперь проблема в том, что информация перестала быть носителем опыта. Текст больше не означает, что кто-то что-то сделал, проверил, пережил. Текст означает, что кто-то нажал кнопку. А иногда — что кнопку нажали автоматически, без человека.

Это не «плохой контент». Плохой контент был всегда. Это контент без источника. Симуляция опыта без опыта. Форма знания без знания. Я называю это слопом — и на следующих трёхстах страницах мы будем разбираться, откуда он взялся, как работает, что делает с нами и что мы можем с этим сделать.

Но прежде чем идти дальше, нужно ответить на вопрос, который читатель, скорее всего, уже задаёт:

«Почему я должен верить тебе? Ты же тоже пишешь текст. Может, ты тоже слоп?»

Справедливый вопрос. Отвечу прямо: я не могу это доказать. Никакой текст не может доказать свою человечность. Это принципиальная проблема, и она лежит в основе всего, о чём мы будем говорить. Единственное, что я могу предложить, —

это конкретика. Имена, даты, версии, ошибки, которые я совершил, и вещи, которые я не смог сделать. Если через сто страниц вы поймаете меня на том, что я говорю обобщённо и без источника, — считайте, что я проиграл. Это честная сделка. Слоп не выдерживает конкретики. Живой опыт — выдерживает.

Центральный тезис

Слоп — не побочный эффект. Слоп — системное свойство генеративного ИИ.

Это не значит, что ИИ плох. Это не значит, что ИИ не полезен. Это значит, что экономика генерации устроена так, что мусор побеждает. Себестоимость производства текста упала до нуля. Себестоимость проверки — нет. И никогда не упадёт, потому что проверка требует того, чего у машины нет: ответственности за последствия.

Проверка — это не «сравнить с фактами». Проверка — это сказать: «Я ручаюсь. Если это не работает, я отвечу». Машина не может ручаться. Она может только генерировать уверенный тон. А уверенный тон — самый дешёвый товар на рынке.

Отсюда — три следствия, которые определяют структуру этой книги.

Первое: слоп нельзя победить фильтрацией. Фильтры обучаются на слопе и производят новый слоп — мета-слоп, который выглядит как антислоп. Это гонка вооружений, в которой проигрывает тот, кто платит за проверку. Потому что генерация

стоит ноль, а проверка стоит время, внимание и репутацию. Экономика однозначна: мусор будет всегда дешевле.

Второе: слоп нельзя победить регулированием. Законы о маркировке ИИ-контента будут соблюдать только те, кто и так не производит слоп. Остальные добавят дисклеймер в подвал и продолжат. Регулирование работает там, где есть правоприменение. В интернете правоприменение стоит дороже, чем нарушение. Это не цинизм. Это арифметика.

Третье: слоп можно только локализовать. Построить «острова доверия» — малые, закрытые, дорогие в обслуживании, но устойчивые. И научиться жить в океане мусора, не теряя рассудка и профессиональной идентичности. Это не победа. Это выживание. Но выживание — это уже немало.

Эта книга — карта такого выживания.

Карта книги

Книга состоит из трёх частей. Каждая часть отвечает на свой вопрос. Вместе они складываются в систему координат, в которой можно ориентироваться, не сходя с ума.

Часть I. Анатомия слопа (главы 1—4). Здесь мы разбираем, что такое слоп, откуда он взялся, как работает его экономика и что происходит, когда он проникает в инженерию, медицину, право и науку. Это диагностическая часть. Без неё невозможно лечение, потому что слоп мимикрирует под знание,

и если вы не умеете его распознавать, вы будете его распространять.

Глава 1 даёт определение и таксономию. Слоп!= спам!= фейк!= плохой текст. Слоп — это контент, созданный без намерения передать опыт, но имитирующий его форму. Мы разберём пять типов слопа: текстовый, кодовый, визуальный, эпистемический и социальный.

Глава 2 — экономика. Почему мусор побеждает. Закон Грешема для информации, экономика внимания, парадокс дешёвого доверия. Здесь же — анализ реальной площадки до и после 2023 года: графики, цифры, выводы.

Глава 3 — цифровая криминалистика. Ядро книги. Пять уровней детекции: лексический, структурный, семантический, поведенческий, технический. Метод «трёх вопросов» и метод

«контрольного кейса». Чеклист для модераторов, редакторов, ревьюеров и тимлидов.

Глава 4 — цена ошибки. Инженерные катастрофы, медицинские рекомендации, юридические заключения, научные препринты. Репутационные каскады. Психологический эффект

«газлайтинга компетентности». Кейс: сообщество, которое распалось за три месяца.

Часть II. Выживание специалиста (главы 5—8). Здесь мы говорим о том, что делать конкретному человеку — инженеру, аналитику, редактору, исследователю, — когда его опыт обесценивается потоком генерации. Это практическая часть. Она не

обещает спасения. Она обещает инструменты.

Глава 5 — обесценивание экспертизы. Почему 10 лет опыта больше не читаются. Что остаётся ценным: вкус, суждение, ответственность, способность сказать «нет». Переход от «носителя знания» к «носителю суждения».

Глава 6 — стратегия малых групп. Почему открытые площадки проиграли. Модели закрытых сообществ. Принципы доверенной сети: верификация, репутация, взаимность, малый размер. Практическое руководство: как основать и поддерживать малое сообщество.

Глава 7 — личная гигиена ИИ. Этический кодекс практика. Дисклеймеры и прозрачность. Гигиена цитирования. Правило «последней мили». Правило

«границы компетенции». Правило «одного источника». Чеклист из 12 пунктов перед публикацией.

Глава 8 — модерация нового типа. Почему старые правила не работают. Новые правила: требование контекста, запрет на «ответы без опыта», обязательные уточнения. Гибридная модерация: человек + машина. Метрики здоровья сообщества. Антипаттерны: гиперконтроль, паранойя, охота на ведьм.

Часть III. Строительство островов доверия (главы 9—11). Здесь мы поднимаемся на уровень архитектуры — технической и социальной. Как проектировать системы, устойчивые к слопу. Как учить медиаграмотности нового типа. Что нас ждёт

в 2027—2035 годах. Это стратегическая часть. Она для тех, кто не просто выживает, а строит.

Глава 9 — архитектура доверия. Принципы: происхождение важнее содержания, репутация важнее анонимности, контекст важнее объёма. Технические решения: верификация источников, цифровые подписи, провенанс контента. Социальные решения: репутационные токены, поручительство, испытательный срок.

Глава 10 — медиаграмотность 2.0. Новый набор навыков: детекция, верификация, контекстуализация, скептицизм без цинизма. Обучение в школе, вузе, корпорации. Личный 30-дневный план «цифровой гигиены».

Глава 11 — будущее. Сценарии 2027—2035. Регулирование. Технологический ответ. Культурный сдвиг: возвращение медленного контента, ценность кураторства, новая элита — не по объёму, а по доверию. Манифест: 10 принципов выживания.

Эпилог — письмо тому, кто читает это в 2040 году. Что мы знали, что предвидели, что проспали. Что осталось неизменным.

Приложения А-Е — чеклисты, шаблоны, метрики, аннотированная библиография, глоссарий.

Обещание

Я не обещаю, что после прочтения вы перестанете видеть слоп. Вы начнёте видеть его везде. Это не суперсила. Это профессиональная деформация. Как у редактора, который больше не может читать книгу, не замечая опечаток. Как у врача, который видит симптомы болезней в каждом прохожем.

Я обещаю другое.

Вы перестанете сомневаться в себе, когда вокруг все «уверены». Вы поймёте, что уверенный тон — это не признак компетентности, а признак отсутствия трения. Живой опыт всегда с трением. Живой опыт всегда с «я не знаю», «у меня не получилось», «я не проверял».

Вы научитесь отличать уверенность от компетентности. Это два разных качества, и слоп эксплуатирует нашу неспособность их различать. Компетентность может быть неуверенной. Уверенность может быть пустой.

Вы сможете построить вокруг себя среду, в которой ваш опыт снова что-то значит. Не потому, что вы отгородитесь от мира, а потому, что вы найдёте тех, кто тоже устал от мусора и готов вкладываться в доверие.

Вы поймёте главное: проблема не в том, что машины научились говорить. Проблема в том, что люди разучились слушать.

И последнее. Эта книга — не про ИИ. Она про нас. Про то, как мы реагируем на среду, которая перестала быть надёжной. Про то, как мы строим доверие, когда доверие больше не даётся бесплатно. Про то, как мы остаёмся людьми в мире, где быть человеком становится всё дороже.

Вопрос, на который ответит книга

Если слоп — системное свойство, а не баг, то что это значит для нас?

Это значит, что мы не можем вернуться в мир до слопа. Того мира больше нет. Но мы можем построить острова в мире после. Острова, где опыт снова имеет значение. Где уверенность подкреплена ответственностью. Где текст — это не просто комбинация токенов, а след живого человека, который что-то сделал и готов за это ответить.

Как построить такие острова? Как выжить между ними? Как не сойти с ума, когда океан мусора поднимается?

Это вопрос, на который отвечает эта книга. И если вы дочитали до этого места, вы уже начали на него отвечать.

ПРАКТИКА. Упражнение «Десять минут слопа»

Прежде чем читать дальше, сделайте простое упражнение. Оно займёт десять минут и изменит ваше восприятие ленты.

Откройте любую профессиональную ленту: LinkedIn, — Habr, Reddit, профильный Telegram-канал, новостную рассылку.

1. Выберите пять постов подряд. Не выбирайте — берите те, что сверху.

2. Для каждого поста ответьте на три вопроса:

Контекст: автор называет конкретный проект, версию, дату, место? Или говорит обобщённо?

Швы: есть ли в тексте следы живого мышления

3) отступления, сомнения, исправления? Или всё слишком гладко?

Цена: что автор потерял бы, если бы этот пост оказался ложью? Есть ли у него кожа в игре?

3. Посчитайте, сколько из пяти постов прошли все три фильтра.

Результат, скорее всего, вас не удивит. Но он вас отрезвит. И это отрезвление — первое, что нужно, чтобы начать видеть.

КЕЙС. Сообщество, которое умерло за три месяца

В 2023 году одно из крупных русскоязычных IT-сообществ (назовём его «Хаб» — не тот, о котором вы подумали, но похожий) столкнулось с проблемой. Количество новых постов выросло на 340% за квартал. Количество комментариев — на 520%. Метрики вовлечённости били рекорды. Через три месяца:

Среднее время до первого полезного ответа выросло с 40 минут до 6 часов.

2. Доля комментариев, удалённых модерацией, выросла с 2% до 31%.

3. Три из пяти самых активных авторов прошлых лет перестали публиковаться.

Два модератора ушли, оставив прощальные посты, — которые были встречены 40 сгенерированными соболезнованиями.

Сообщество не умерло. Оно стало пустым. Разница принципиальная: мёртвое сообщество можно оживить. Пустое — нет, потому что в нём больше нечего оживлять.

Полный разбор — в главе 4, хроника в 10 шагах.

ЧТО ЗАПОМНИТЬ. Слоп — это контент, созданный без намерения передать опыт, но имитирующий его форму

1. Слоп не равен спаму, фейку или плохому тексту.

Слоп может быть технически безупречен.

Экономика генерации устроена так, что мусор побеждает: — производство дёшево, проверка дорога.

2. Проверка — это не «сравнить с фактами», а

«ручаться за последствия». Машина на это не способна.

Слоп нельзя победить фильтрацией или регулированием. — Его можно только локализовать.

3. «Острова доверия» — малые, закрытые, дорогие в обслуживании, но устойчивые сообщества.

4. Проблема не в том, что машины научились говорить. Проблема в том, что люди разучились слушать.

5. Эта книга — не про ИИ. Она про нас. Про то, как мы строим доверие, когда доверие больше не даётся бесплатно.

ЧТО ПОЧИТАТЬ/ПОСМОТРЕТЬ

Николас Карр, «Пустышка» (The Shallows, 2010) — классика о том, как интернет меняет когнитивные привычки. Читать с поправкой на 2024 год: Карр описал интернет до генеративного ИИ, но механизмы те же. Особенно глава о «перегрузке внимания».

Том Николс, «Смерть экспертизы» (The Death of Expertise, 2017) — о том, как доверие к знанию разрушалось задолго до ChatGPT. Полезно как исторический контекст. Николс описал болезнь, для которой слоп стал ускорителем.

Райан Холидей, «Trust Me, I’m Lying» (2012)

4) о манипуляции медиа. Многие приёмы слопа

5) это старые приёмы пиара, ускоренные до скорости машины. Читается как пророчество.

Кэти О'Нил, «Оружие математического поражения» (Weapons of Math Destruction, 2016) — об алгоритмическом вреде. Главы про обратную связь и предвзятость релевантны для понимания, как слоп обучает сам себя.

Статьи о Dead Internet Theory (2021—2024) — начните с эссе в The Atlantic и Wired. Читайте критически: теория конспирологична, но экономические механизмы, которые она описывает, реальны. Отделяйте наблюдения от паранойи.

ЧАСТЬ I. АНАТОМИЯ СЛОПА

ГЛАВА 1. ЧТО ТАКОЕ СЛОП: ОТ СПАМА ДО ОНТОЛОГИЧЕСКОГО ЗАГРЯЗНЕНИЯ

«Я не могу определить, что такое слоп, но я узнаю его, когда вижу. Проблема в том, что я вижу его всё чаще, и всё

реже могу объяснить, почему».

из внутреннего чата команды модерации одной из крупных

площадок, 2024

1.1. Крючок-сцена

В феврале 2024 года на Stack Overflow появился вопрос. Автор — rust_newbie_42. Зарегистрирован 11 дней назад. Репутация 23 балла. Вопрос: «Почему borrow checker ругается на этот код?» Дальше — 15 строк кода. Минимальный воспроизводимый пример. Сообщение компилятора. Версия Rust. Версия cargo. Всё как положено. Образцовый вопрос.

Через двадцать минут появился ответ. Автор — rust_guru_2019. Зарегистрирован год назад. Репутация 847 баллов. Ответ: 600 слов. Четыре раздела с подзаголовками. «Понимание владения в Rust». «Почему borrow checker ведёт себя именно так». «Три способа исправить ошибку».

«Дополнительные ресурсы». Ответ вежливый. Подробный. Технически корректный. Он объяснял

концепцию владения. Ссылался на официальную документацию. Предлагал три решения: через clone (), через реструктуризацию кода, через RefCell. Четырнадцать голосов «за». Принят как решение.

Через три дня rust_newbie_42 задал уточняющий вопрос в комментариях. «Спасибо. Я попробовал все три способа. Компилятор всё равно ругается. Вот вывод». Он приложил новый лог. Ошибка была та же.

rust_guru_2019 не ответил. Через день модерация удалила аккаунт. Причина: массовая генерация ответов. К тому моменту он успел ответить на 340 вопросов. Из них 320 признали сгенерированными. Ни один не проверили на реальном коде. И — вот самое неприятное — некоторые из них работали. Не потому, что автор понимал проблему. А потому, что вопрос был достаточно типичным. Общий ответ подошёл. Слоп мимикрировал под экспертизу так хорошо, что иногда попадал в цель. Статистически.

Площадка удалила аккаунт. Но вопрос rust_newbie_42 остался. С принятым ответом. Который не решал его проблему. Следующие 200 человек, которые гуглили ту же ошибку, находили этот ответ. Читали. Кивали. Пробовали. Некоторые

1. безуспешно. Никто из них не знал, что разговаривает с машиной. Никто не знал, что

«эксперт» не запускал их код. Никто не знал, что уверенный тон — это не признак знания, а признак отсутствия трения.

Это и есть слоп. Не плохой ответ. Плохой ответ был бы честнее. Это ответ без источника. Форма знания без знания.

1.2. Что такое слоп: определение через ситуацию

Прежде чем давать определение, договоримся о методе. Определения в этой книге вводятся через ситуации. Почему? Потому что слоп — не объект. Слоп — отношение. Нельзя сказать «вот это слоп», не указав, где, когда и кем это произведено. С какой целью. С какой ответственностью. Один и тот же текст может быть слопом в одной ситуации и не-слопом в другой.

Пример. Возьмите фразу: «Для оптимизации запросов в PostgreSQL рекомендуется использовать индексы и избегать SELECT *».

Ситуация первая. Опытный DBA пишет внутреннюю памятку для junior-разработчиков своей команды. Он знает их кодовую базу. Знает их типичные ошибки. Знает, что у них проблемы с SELECT * в отчётах. Фраза — часть живого контекста. Это не слоп. Это сжатие опыта.

Ситуация вторая. Человек, который никогда не работал с PostgreSQL, просит LLM «написать пост про оптимизацию запросов». Публикует ответ на Habr. Фраза — не часть живого контекста. Это слоп. Даже если фраза технически верна.

Ситуация третья. LLM генерирует ту же фразу в ответ на вопрос пользователя. Пользователь ищет информацию о PostgreSQL. Читает. Благодарит. Применяет. Фраза — не часть живого контекста. Но и не претендует на роль экспертизы. Это серый слоп. Машина не притворяется человеком. Но человек всё равно не понимает, что говорит с машиной.

Три ситуации. Один текст. Разные онтологические статусы. Слоп — не свойство текста. Слоп — свойство отношения между текстом и источником опыта.

Теперь определение. Рабочее. Не окончательное. Но достаточное, чтобы начать:

Слоп — это контент, созданный без намерения передать опыт, но имитирующий форму его передачи.

Разберём по частям.

«Без намерения передать опыт». Это ключевое. Слоп не обязательно ложь. Слоп не обязательно глупость. Слоп — это текст, автор которого не ставил задачу передать что-то, что он пережил, проверил, прочувствовал. Автор ставил задачу сгенерировать текст, похожий на текст, который пишут люди с опытом. Разница принципиальная. Лжец знает правду и искажает её. Автор слопа не знает правды и не искажает её. Он просто генерирует форму.

«Имитирующий форму его передачи». Слоп обучен на текстах, написанных людьми с опытом.

Он знает, как выглядит экспертный ответ: подзаголовки, списки, ссылки на документацию, вежливый тон, структура «проблема — анализ — решение — ресурсы». Он воспроизводит эту форму безупречно. Но форма — не содержание. Форма — упаковка. Слоп — упаковка без товара.

И вот здесь начинается самое интересное. Слоп может быть технически безупречен. Он может содержать корректные факты, правильные ссылки, работающий код. Проблема не в качестве. Проблема в отсутствии источника. Если завтра документация изменится, слоп не узнает об этом. Если завтра выяснится, что решение не работает в вашем конкретном случае, слоп не сможет адаптироваться. Слоп статичен. Опыт динамичен. Опыт — это способность реагировать на новое. Слоп — это способность воспроизводить старое в новых обёртках.

1.3. Разграничение: слоп!= спам!= фейк!= плохой текст

Самая распространённая ошибка — путать слоп с соседними явлениями. Это не педантизм. Это вопрос тактики. Если вы лечите слоп методами против спама, вы проиграете. Если вы лечите слоп методами против фейков, вы проиграете. Слоп — отдельная болезнь. У неё отдельные лекарства.

Слоп!= спам. Спам — это навязывание. Его цель

1. продать, завлечь, перенаправить. Спам назойлив. Но он честен в своей наглости. Слоп не навязывает.

Слоп притворяется полезным. Спам можно отфильтровать по признакам: ссылки, ключевые слова, повторяемость. Слоп не имеет устойчивых признаков. Он мимикрирует под органический контент. Спам-фильтры против слопа — как антивирус против депрессии. Инструмент не тот.

Слоп!= фейк. Фейк — это ложь. У фейка есть намерение обмануть. Есть искажение факта. Есть правда, которую он отрицает. Фейк можно опровергнуть, предъявив правду. Слоп не отрицает правду. Слоп её не знает. Слоп не утверждает, что Земля плоская. Слоп утверждает, что «многие эксперты сходятся во мнении, что вопрос формы Земли требует дальнейшего изучения». Фейк можно поймать на противоречии. Слоп невозможно поймать. Он не утверждает ничего достаточно конкретного, чтобы противоречить. Слоп — это эпистемическая взвесь. Он не врёт. Он замутняет.

Слоп!= плохой текст. Это самое важное разграничение. Плохой текст — это текст с ошибками: стилистическими, логическими, фактическими. Плохой текст можно исправить. Плохой текст — результат недостатка навыка или усердия. Слоп — не недостаток. Слоп — избыток формы при отсутствии содержания. Слоп может быть написан лучше, чем текст живого эксперта. Он может быть более структурированным. Более вежливым. Более полным. Он может содержать меньше ошибок. Именно поэтому он опасен. Плохой текст вызывает настороженность. Слоп вызывает доверие. Плохой текст — шум. Слоп —

сигнал, который выглядит как сигнал, но не несёт информации.

Вот таблица, которая помогает развести эти четыре явления. Она не исчерпывающая. Но рабочая.

Признак Спам Фейк Плохой текст Слоп

Намерение Продать Обману ть

Передать (плохо)

Сгенериро вать

Отношение к правде — Игнорир

ует

Отрицае т

Искажает — Не знает

Источник опыта — Отсутств ует

Отсутств ует

Присутствует — Отсутству

ет

Реакция на опровержение

Уходит — Защища ется

Учится — Не

отвечает

Что лечит Фильтр Фактчек инг

Редактура — Локализац ия

Последняя строка — самая важная. Слоп не лечится фильтром, фактчекингом или редактурой. Слоп лечится только локализацией. Созданием сред, в которых слоп не может распространяться. Потому что там требуется то, чего у него нет — ответственность.

1.4. Таксономия слопа: пять типов

Слоп неоднороден. Он принимает разные формы в разных средах. Ниже — пять типов. Я выделяю их по среде обитания и механизму воздействия. Это не академическая классификация. Это рабочая таксономия для практика, которому нужно быстро понять, с чем он имеет дело.

1.4.1. Текстовый слоп

Самый распространённый. Статьи, посты, комментарии, ответы, документация, научные препринты, юридические заключения. Механизм: LLM обучена на человеческих текстах и воспроизводит их форму. Признаки: идеальная структура, отсутствие «швов», равномерность тона, характерные обороты («важно отметить», «стоит подчеркнуть», «в заключение»), отсутствие конкретики, обобщения вместо примеров.

Текстовый слоп опасен тем, что он заполняет пространство. Раньше пустота была видна. Если никто не ответил на вопрос — это сигнал. Вопрос сложный. Или никто не знает. Теперь пустота заполняется слопом. Вопрос выглядит отвечённым. Хотя ответа нет. Люди перестают искать настоящих экспертов. Потому что «уже всё есть». Эксперты перестают писать. Потому что их заглушают. Отрицательная обратная связь.

1.4.2. Кодовый слоп

Код, сгенерированный LLM без понимания архитектуры, контекста, ограничений. Признаки: код работает в изоляции, но ломается в интеграции. Отсутствие обработки ошибок. Игнорирование краевых случаев. «Магические» решения, которые непонятно как работают. Дублирование логики. Кодовый слоп опасен тем, что он проходит тесты. Тесты пишутся на типичные случаи. Слоп генерирует типичные решения. Тесты зелёные. Продакшн красный. Отладка занимает в три раза больше времени, чем написание с нуля. Технический долг накапливается с процентами.

1.4.3. Визуальный слоп

Изображения, сгенерированные Midjourney, DALL-E, Stable Diffusion. Признаки: характерные артефакты (пальцы, зубы, текст), гиперреалистичность без смысла, композиция «как в стоке», отсутствие авторского взгляда. Визуальный слоп опасен тем, что он обесценивает визуальный язык. Когда любое изображение можно сгенерировать за секунды, перестаёт быть понятно, зачем платить фотографу, иллюстратору, дизайнеру. Но слоп не создаёт смысла. Он создаёт украшение. А украшение без смысла — шум.

1.4.4. Эпистемический слоп

Самый опасный. Ложные факты, обёрнутые в уверенный тон. Сгенерированные ссылки на несуществующие исследования. Выдуманные цитаты. Псевдостатистика. Признаки: конкретика без источника, ссылки на «исследования» без названий, цифры без методологии, цитаты без контекста. Эпистемический слоп опасен тем, что он проникает в научную и профессиональную литературу. Его цитируют. На него ссылаются. Он становится частью knowledge base. Через год уже невозможно понять, где был источник, а где — симуляция источника.

1.4.5. Социальный слоп

Боты, имитирующие сообщество. Аккаунты, которые генерируют посты, комментарии, лайки, подписки. Признаки: активность без истории, шаблонные реакции, отсутствие диалога, «эхо» вместо ответа. Социальный слоп опасен тем, что он создаёт иллюзию сообщества. Площадка выглядит живой. Но в ней никого нет. Люди приходят. Видят активность. Остаются. Но не находят собеседников. Уходят. Площадка пустеет. Но метрики остаются высокими. Это называется

«мёртвый интернет». Не как теория заговора. А как экономическое состояние.

1.5. Почему «плохой контент» — неточный термин

В дискуссиях о слопе постоянно всплывает фраза: «Ну, это же просто плохой контент. Плохой контент был всегда». Это опасное упрощение. Оно успокаивает. Но не объясняет.

Плохой контент — это контент, который не достиг цели. Плохая статья не объяснила тему. Плохой код не работает. Плохой ответ не решил проблему. У плохого контента есть цель, которую он не достиг. Это можно исправить: улучшить статью, переписать код, дать новый ответ.

Слоп — это контент, у которого нет цели, но есть форма. Слоп не стремится объяснить тему. Он стремится выглядеть как объяснение. Слоп не стремится решить проблему. Он стремится выглядеть как решение. Слоп не стремится ответить. Он стремится выглядеть как ответ. Разница принципиальная. Плохой контент можно улучшить. Потому что у него есть направление. Слоп нельзя улучшить. Потому что у него нет направления. Его можно только заменить на контент, у которого есть источник опыта.

Вот почему «плохой контент» — неточный термин. Он предполагает, что проблема в качестве. А проблема — в онтологии. Слоп — не плохой текст. Слоп — текст, который не является свидетельством. Он не плохой. Он пустой. Как рекламный щит, на котором написано «здесь могла быть ваша реклама». Форма есть. Содержания нет.

И это содержание невозможно добавить. Потому что его никогда не было.

Технически безупречный слоп — не парадокс. Это норма. LLM обучена на миллионах текстов, написанных людьми с опытом. Она знает, как выглядит экспертиза. Она воспроизводит форму экспертизы с точностью, недоступной большинству живых экспертов. Но форма — не содержание. Когда вы читаете технически безупречный слоп, вы читаете форму без источника. Это как любоваться фотографией еды. Красиво. Питательно — ноль.

1.6. Исторический контекст: от «фабрик контента» до ChatGPT

Слоп не появился в 2022 году. У него длинная предыстория. Понимание этой предыстории важно. Оно показывает: проблема не в технологии. Проблема в экономике. Технология лишь ускорила то, что уже происходило.

2010-е: фабрики контента

В 2010-х годах появились «фабрики контента» — организации, которые производили тексты в промышленных масштабах. Схема была простой: нанять дешёвых авторов, дать им шаблоны, заставить писать быстро, публиковать много. Качество не имело значения. Имел значение объём. SEO-тексты. «10 способов похудеть». «5 причин купить наш продукт». Это был человеческий слоп. Люди, которые писали без опыта, по шаблонам, без ответственности. Форма без содержания.

Фабрики контента были прибыльны. Реклама платила за клики, а не за качество. Алгоритмы поиска вознаграждали объём и ключевые слова. Чем больше текста, тем выше позиция. Чем выше позиция, тем больше кликов. Чем больше кликов, тем больше денег. Качество не входило в уравнение.

Проблема была в том, что человеческий слоп дорог. Авторам нужно платить. Их нужно обучать. Они устают, болеют, уходят. Себестоимость производства человеческого слопа не падала до нуля. Она падала. Но медленно.

2016—2020: алгоритмический слоп

Следующий этап — алгоритмическая генерация. Системы типа GPT-2, потом GPT-3, могли генерировать тексты, которые выглядели связными. Они всё ещё были далеки от человеческого уровня. Но уже могли заполнять пространство. Появились «контент-фермы» нового типа: не люди, а скрипты, которые генерировали тысячи текстов в день. Качество было низким. Но объём — астрономическим. Алгоритмы поиска не всегда могли отличить сгенерированный текст от человеческого. Это был алгоритмический слоп. Форма без содержания. Но уже без человека.

Себестоимость упала. Но не до нуля. Нужны были серверы, электричество, инженеры. Слоп стал дешевле. Но не бесплатным.

2022: ChatGPT и обнуление себестоимости

В ноябре 2022 года произошло то, что изменило всё. ChatGPT сделал генерацию текста бесплатной и мгновенной. Не «дешёвой». Не «быстрой». Бесплатной и мгновенной. Любой человек с интернетом мог сгенерировать текст любого объёма на любую тему за секунды. Себестоимость производства слопа упала до нуля.

Что это значит? Это значит, что экономика контента сломалась. Раньше производство текста стоило денег. Теперь — нет. Раньше автор мог продать свой текст. Потому что его производство требовало времени и навыка. Теперь — нет. Потому что то же самое можно сгенерировать бесплатно. Цена текста упала до нуля. Но цена проверки текста не упала. Проверка требует времени, внимания, репутации. Проверка требует человека, который готов сказать: «Я ручаюсь». Машина на это не способна.

Отсюда — фундаментальный дисбаланс. Производство бесплатно. Проверка дорога. Экономика однозначна: мусор будет производиться в промышленных масштабах. Потому что это бесплатно. А проверка будет становиться всё дороже. Потому что объём мусора растёт. Это не проблема технологии. Это проблема стимулов. Пока стимулы не изменятся, слоп будет побеждать.

ПРАКТИКА. Упражнение «Найди слоп в своей ленте за 10 минут»

Это упражнение — не тест на внимательность. Это тест на калибровку. Большинство людей не видят слоп не потому, что невнимательны. А потому, что не знают, что искать. Упражнение помогает настроить оптику.

Шаг 1. Откройте любую профессиональную ленту. LinkedIn, Habr, Reddit, профильный Telegram-канал, новостную рассылку. Выберите пять постов подряд. Не выбирайте. Берите те, что сверху.

Шаг 2. Для каждого поста ответьте на три вопроса:

Контекст. Автор называет конкретный проект, версию, — дату, место, имя? Или говорит обобщённо: «многие компании», «исследования показывают», «эксперты считают»?

Швы. Есть ли в тексте следы живого мышления

— отступления, сомнения, исправления, «я не уверен», «у меня не получилось», «возможно, я ошибаюсь»? Или всё слишком гладко?

Цена. Что автор потерял бы, если бы этот пост оказался ложью? Есть ли у него кожа в игре? Или он ничем не рискует?

Шаг 3. Посчитайте, сколько из пяти постов прошли все три фильтра.

Шаг 4. Для постов, которые не прошли, попробуйте определить тип слопа: текстовый, кодовый, визуальный, эпистемический, социальный.

Шаг 5. Запишите результат. Через неделю повторите. Сравните.

Результат, скорее всего, вас не удивит. Но он вас отрезвит. И это отрезвление — первое, что нужно, чтобы начать видеть.

КЕЙС

«Новичок с тремя сообщениями» Реконструированный кейс. Сцена основана на типичных инцидентах, описанных модераторами Stack Overflow Meta (2023—2024).

В марте 2024 года на профильном форуме по кибербезопасности появился пользователь sec_enthusiast. Зарегистрирован три дня назад. Три сообщения. Репутация — 0. Первое: «Привет, я новичок, изучаю пентест. Подскажите, с чего начать?» Второе: «Спасибо за ответы, буду разбираться». Третье — и вот здесь начинается история — появилось в ветке «Как защититься от атак типа Kerberoasting в Active Directory».

Ветку создал опытный администратор. Он описал реальный инцидент: злоумышленник получил доступ к сервисному аккаунту со слабым паролем. Запросил TGS-тикет. Извлёк хеш. Взломал его офлайн. Администратор спрашивал совета: как предотвратить такое в будущем. Ветка собрала 40 комментариев от практикующих специалистов. Обсуждали длину паролей сервисных аккаунтов. Managed service accounts. Ограничение делегирования. Мониторинг аномальных запросов TGS.

И вот в эту ветку пришёл sec_enthusiast. Его ответ — 800 слов. Структура: «Понимание Kerberoasting», «Векторы атаки», «Меры защиты»,

«Инструменты для аудита», «Заключение». Он рекомендовал gMSA (group Managed Service Accounts). Включить аудит событий 4769. Ограничить права сервисных аккаунтов. Использовать сложные пароли длиной не менее 25 символов. Внедрить мониторинг через SIEM. Всё технически корректно. Всё есть в официальной документации Microsoft. Всё уже сказано в предыдущих 40 комментариях. Но sec_enthusiast не ссылался на них. Он говорил так, будто открыл это сам.

Комментарий получил 12 голосов «за». Опытный администратор поблагодарил. Через два дня кто-то из старожилов прогнал комментарий через детектор. Результат: 94% вероятность генерации. Он написал в личку модератору. Модератор проверил историю sec_enthusiast. Три сообщения. Первое — «с чего начать». Второе

— «спасибо». Третье — экспертный ответ на 800 слов. Ни одного промежуточного шага. Ни одного вопроса. Ни одной ошибки. Ни одного «я не уверен».

Модератор удалил комментарий. Но было поздно. Комментарий уже процитировали в трёх других ветках. Один пользователь сохранил его в закладки. Другой переслал коллеге. Третий использовал рекомендации в своём отчёте. Слоп распространился. Не потому, что был плохим. А потому, что был достаточно хорошим. Он не противоречил тому, что говорили эксперты. Он просто повторял это без источника. В этом была его сила. И его опасность.

Форум не умер. Но доверие к ветке умерло. Опытный администратор, который создал её, перестал публиковать инциденты. «Зачем? — сказал он в личке модератору. — Всё равно через два дня придёт бот и скажет то же самое, только увереннее». Он был прав.

ЧТО ЗАПОМНИТЬ. Слоп — контент, созданный без намерения передать опыт, но имитирующий форму его передачи

• Слоп!= спам!= фейк!= плохой текст. Слоп может быть технически безупречен.

• Проблема не в качестве, а в онтологии: слоп — текст без источника опыта.

• Пять типов слопа: текстовый, кодовый, визуальный, эпистемический, социальный.

Слоп не лечится фильтрацией, фактчекингом или — редактурой. Он лечится только локализацией.

• Исторический контекст: от «фабрик контента» 2010-х до ChatGPT. Себестоимость генерации упала до нуля. Себестоимость проверки — нет.

• Технически безупречный слоп — не парадокс, а норма. LLM воспроизводит форму экспертизы, не имея её содержания.

Самый опасный слоп — тот, который проходит тесты — и получает голоса «за». Он распространяется быстрее, чем его успевают проверить.

ЧТО ПОЧИТАТЬ/ПОСМОТРЕТЬ

Кэти О'Нил, «Оружие математического поражения» — (2016) — главы о том, как алгоритмы создают иллюзию объективности. Прямая параллель с тем, как слоп создаёт иллюзию экспертизы.

Том Николс, «Смерть экспертизы» (2017) — о том, как доверие к знанию разрушалось задолго до ChatGPT. Николс описал болезнь, для которой слоп стал ускорителем.

Статья «Dead Internet Theory» в The Atlantic (2024) — попытка описать экономику мёртвого интернета без конспирологии. Читайте критически. Но обратите внимание на механизмы.

Отчёт «AI and the Future of Content» от Reuters Institute (2024) — эмпирические данные о росте сгенерированного контента в новостных медиа. Цифры, графики, методология.

Дискуссии на Stack Overflow Meta о

«AI-generated content» (2023—2024) — реальные кейсы, реальные решения, реальные провалы. Читать как полевые заметки с передовой.

ГЛАВА 2. ЭКОНОМИКА СЛОПА: ПОЧЕМУ МУСОР ПОБЕЖДАЕТ

«Плохие деньги вытесняют хорошие. Плохой контент вытесняет хороший. Разница в том, что деньги можно

переплавить, а внимание — нет».

— из лекции по медиаэкономике, реконструировано

2.1. Крючок-сцена

В 1558 году английская королева Елизавета I столкнулась с проблемой. В обращении ходили две монеты: старые, полновесные, с высоким содержанием серебра, и новые, облегчённые, с примесями. Номинал у них был одинаковый. Люди быстро сообразили: платить облегчённой монетой выгоднее, а полновесную лучше припрятать. Через несколько лет полновесные монеты исчезли из обращения. Остались только облегчённые. Это явление позже назвали законом Грешема: «плохие деньги вытесняют хорошие».

Сэр Томас Грешем был финансистом. Он думал о серебре. Но сформулировал закон, который работает везде, где есть одинаковый номинал при разной себестоимости.

Теперь перенесёмся в 2024 год. Технический форум. Два ответа на вопрос «Почему падает производительность в Kubernetes-кластере?».

Первый ответ написан инженером, который три дня копался в логах, нашёл проблему с kubelet и cgroup, потратил шесть часов на воспроизведение. Второй ответ сгенерирован LLM за 11 секунд и содержит общие рекомендации: «проверьте лимиты ресурсов», «включите мониторинг»,

«обновите версию». Номинал одинаковый: оба ответа выглядят как решения. Себестоимость разная: шесть часов против 11 секунд. Читатель не видит разницы. Алгоритм не видит разницы. Платформа не видит разницы — для неё оба ответа

«вовлекают пользователя».

Что произойдёт дальше? Инженер, который потратил шесть часов, получит 4 голоса «за» и один комментарий «а у меня не сработало». Сгенерированный ответ получит 15 голосов «за» и три благодарности, потому что он выглядит более полным и структурированным. Инженер в следующий раз не станет тратить шесть часов. Зачем? Экономика однозначна. Плохой ответ вытесняет хороший, потому что он дешевле в производстве и неотличим в потреблении.

Это и есть закон Грешема для информации. И это только начало.

2.2. Закон Грешема для информации

Классический закон Грешема работает при трёх условиях:

Одинаковый номинал. Люди принимают обе монеты как равные.

Разная себестоимость. Одну монету произвести дешевле, чем другую.

Асимметрия информации. Потребитель не может быстро отличить хорошую монету от плохой.

Все три условия выполняются для контента в эпоху генеративного ИИ. Причём с пугающей точностью.

Одинаковый номинал. Контент не имеет встроенного маркера качества. Нет «пробы серебра» у текста. Читатель судит по форме: структура, тон, уверенность, объём. Слоп обучен на человеческих текстах и воспроизводит форму идеально. Он выглядит как качественный контент, потому что обучен выглядеть как качественный контент. Номинал одинаковый.

Разная себестоимость. Производство человеческого контента стоит времени, внимания, репутации, иногда денег. Производство слопа стоит ноль. Не «мало». Ноль. ChatGPT бесплатен. Локальные модели бесплатны. API стоит копейки. Себестоимость производства обнулилась, а себестоимость проверки осталась прежней: время, внимание, репутация.

Асимметрия информации. Читатель не может быстро отличить слоп от живого текста. Детекторы работают с точностью 60—80% на коротких текстах и падают до случайного угадывания на длинных. Человеческая интуиция ещё хуже. Мы обучены доверять уверенному тону, а слоп — это чистая уверенность без трения.

Три условия выполнены. Закон вступает в силу. Хороший контент вытесняется плохим. Не потому, что люди глупы. Не потому, что платформы злы. А потому, что экономика однозначна. Пока номинал одинаковый, а себестоимость разная, победит тот, кто производит дешевле.

Есть ли исключения? Да. Там, где номинал не одинаковый — где качество видно сразу. Хирургия. Пилотирование. Управление ядерным реактором. В этих сферах слоп не проходит, потому что ошибка видна немедленно и стоит дорого. Но в областях, где ошибка видна отложенно — а это почти весь интеллектуальный труд — слоп побеждает. Потому что к моменту, когда ошибка становится видна, слоп уже распространился.

2.3. Внимание как дефицитный ресурс

Классическая экономика работает с дефицитом. Дефицит создаёт цену. Цена создаёт стимулы. Стимулы создают рынок. В экономике контента дефицитный ресурс — не контент. Контента в избытке, и его становится всё больше. Дефицитный ресурс — внимание.

Человеческое внимание конечно. Вы можете прочитать примерно 200—300 слов в минуту. Вы можете уделить чтению примерно 2—4 часа в день, если вы профессионал, который читает по работе. Это 30—60 тысяч слов в день. Максимум. Звучит много. Но в одном посте на Habr может быть 5000 слов. В одной книге — 100 тысяч. В одной ленте

LinkedIn — бесконечность. Внимание — узкое горлышко. Всё остальное — избыток.

Экономика контента — это экономика борьбы за узкое горлышко. И здесь вступает в силу цикл, который определяет поведение всех игроков.

2.3.1. Цикл генерации слопа

Шаг 1. Генерация. Производитель создаёт контент. Раньше это был человек с опытом. Теперь

1. человек с LLM или LLM без человека. Себестоимость: ноль. Скорость: секунды. Объём: неограничен.

Шаг 2. Публикация. Контент размещается на платформе. Платформа — это посредник, который предоставляет доступ к аудитории. Себестоимость публикации: ноль. Барьеры входа: минимальные. Модерация: формальная или отсутствует.

Шаг 3. Алгоритмическое продвижение. Платформа ранжирует контент. Ранжирование основано на метриках вовлечённости: клики, лайки, комментарии, время просмотра. Метрики вовлечённости не измеряют качество. Они измеряют способность контента удерживать внимание. Слоп обучен удерживать внимание. Он структурирован, ритмичен, эмоционально заряжен. Он оптимизирован под метрики. Алгоритм продвигает то, что оптимизировано под алгоритм.

Шаг 4. Монетизация. Платформа продаёт внимание рекламодателям. Чем больше внимания, тем выше цена. Чем больше слопа, тем больше

внимания. Чем больше внимания, тем больше денег. Слоп монетизируется.

Шаг 5. Обратная связь. Производитель видит, что слоп монетизируется. Производит больше слопа. Платформа видит, что слоп удерживает внимание. Продвигает больше слопа. Алгоритм видит, что слоп оптимизирован под метрики. Обучается на слопе. Цикл замыкается. Проверка не входит в цикл.

Вот ключевой момент. В этом цикле нет шага

«проверка». Нет шага «верификация источника». Нет шага «оценка достоверности». Потому что проверка не монетизируется. Она не увеличивает вовлечённость. Она не удерживает внимание. Она стоит денег и не приносит дохода. Экономика цикла исключает проверку. И это не злой умысел. Это структурное свойство.

2.3.2. Почему проверка не монетизируется

Представьте платформу, которая решила встроить проверку. Каждый пост проходит через фактчекера. Каждый ответ — через эксперта. Каждая ссылка — через верификацию источника. Что произойдёт?

1. Скорость публикации упадёт с секунд до часов или дней.

2. Объём контента упадёт на 90—95%.

3. Стоимость производства вырастет в десятки раз.

4. Метрики вовлечённости упадут, потому что контента меньше.

5. Рекламодатели уйдут, потому что аудитория сократится.

6. Платформа обанкротится.

Проверка — это общественное благо. Она полезна для всех, но никто не готов за неё платить. Классическая проблема коллективного действия. Каждый читатель выигрывает от проверенного контента, но каждый читатель предпочитает, чтобы проверял кто-то другой. Каждая платформа выигрывает от проверенного контента, но каждая платформа предпочитает, чтобы проверяла другая. В результате проверки нет. Есть метрики вовлечённости. Есть алгоритмическое продвижение. Есть монетизация. Проверки нет.

Это не баг. Это фича. Фича экономики внимания.

2.4. Парадокс «дешёвого доверия»

Раньше доверие было дорогим. Чтобы заслужить репутацию эксперта, нужно было:

1. Годы обучения.

2. Годы практики.

3. Публичные ошибки, за которые нужно отвечать.

4. Медленное накопление социального капитала.

Репутация была инвестицией. Она требовала времени. Она не могла быть подделана, потому что её источник — история.

Теперь доверие дёшево. LLM может сгенерировать ответ, который выглядит как ответ эксперта. Не «похож на экспертный». Как экспертный. С той же структурой, тем же тоном, той же уверенностью. За секунды. Бесплатно. Без истории. Без ошибок. Без ответственности.

Это парадокс. Доверие — самый ценный ресурс в экономике контента. И одновременно — самый дешёвый в производстве. LLM имитирует репутацию лучше, чем большинство людей её заслуживают.

Что это значит для рынка? Это значит, что сигнал репутации обесценился. Раньше «эксперт с 10-летним стажем» был сигналом. Теперь

«эксперт с 10-летним стажем» — это описание, которое LLM может сгенерировать в тексте. Раньше

«1000 подписчиков» было сигналом. Теперь 1000 подписчиков можно купить за 50 долларов или сгенерировать за час. Раньше «ответ с 50 голосами» был сигналом. Теперь 50 голосов можно накрутить ботами.

Парадокс «дешёвого доверия» в том, что чем дешевле имитировать доверие, тем дороже его заслужить. Потому что настоящему эксперту приходится конкурировать с бесконечным потоком имитаций, которые выглядят так же хорошо, а иногда лучше. И у него нет инструментов, чтобы доказать, что он настоящий. Потому что доказательство настоящести — это история, а история не видна в тексте. Она видна только во времени. А времени у читателя нет.

2.5. Dead Internet Theory как экономический прогноз

В 2021 году на имиджбордах появилась теория. Она утверждала, что интернет «умер» где-то в 2016—2017 годах, а всё, что мы видим с тех пор — это боты, имитирующие людей, и алгоритмы, имитирующие органическую активность. Теория была конспирологической, но в ней было рациональное зерно: экономика интернета действительно движется в сторону, где большая часть контента генерируется машинами для машин.

Я не сторонник конспирологии. Но я сторонник экономического анализа. И с этой точки зрения Dead Internet Theory — не заговор, а прогноз. Если генерация стоит ноль, а внимание конечно, то единственный способ монетизировать генерацию

— это генерировать больше контента, чем может быть потреблено людьми. А значит, значительная часть контента будет потребляться машинами. Ботами, алгоритмами, парсерами, системами мониторинга. Они не устают. Они не отвлекаются. Они потребляют бесконечно.

Вот сценарий, который следует из чистой экономики:

Фаза 1 (2020—2023). Люди производят контент для людей. Слоп существует, но он ещё различим. Алгоритмы ранжируют контент для людей. Метрики отражают человеческую вовлечённость.

Фаза 2 (2023—2027). Слоп становится дешевле человеческого контента. Алгоритмы начинают ранжировать слоп выше, потому что он оптимизирован под метрики. Люди уходят из публичных пространств в закрытые. Публичные пространства заполняются слопом.

Фаза 3 (2027—2032). Большая часть публичного контента генерируется машинами для машин. Люди потребляют контент через кураторов, которых они знают лично, или через закрытые сообщества. Публичный интернет становится декорацией: он выглядит живым, но в нём никого нет.

Фаза 4 (2032+). Публичный интернет монетизируется через ностальгию и аутентичность. Люди платят за доступ к

«настоящему» контенту, который производят люди. Возникает экономика аутентичности. Доверие становится валютой.

Это не апокалипсис. Это смена режима. Публичный интернет был аномалией: коротким периодом, когда производство контента было достаточно дешёвым, чтобы каждый мог публиковать, но достаточно дорогим, чтобы каждый нёс ответственность. Теперь производство бесплатно, а ответственность исчезла. Мы возвращаемся к чему-то, что было до интернета: к малым сообществам доверия, соединённым через дорогие каналы. Только каналы теперь цифровые, а доверие — дефицит.

2.6. Кто выигрывает, кто проигрывает

Экономика слопа — это не игра с нулевой суммой. Есть выигравшие и проигравшие. Понимание этого важно, потому что оно объясняет, почему проблема не решается «сама собой». У проблемы есть бенефициары.

2.6.1. Выигрывают

Платформы. Метрики вовлечённости растут. Объём контента растёт. Рекламные инвентари растут. Стоимость производства контента для платформы — ноль (платят пользователи). Стоимость модерации — растёт, но медленнее, чем доходы. Платформы выигрывают в краткосрочной перспективе. В долгосрочной они разрушают собственную экосистему, но у них нет стимула это замечать. Квартальные отчёты важнее десятилетних трендов.

Рекламодатели. Больше контента — больше мест для рекламы. Больше мест — ниже цена за показ. Ниже цена — выше охват. Рекламодатели выигрывают от избытка контента. Качество контента их не интересует. Их интересует внимание. А слоп удерживает внимание не хуже, чем живой контент. Иногда лучше, потому что оптимизирован под метрики.

Генераторы трафика. Люди, которые производят слоп в промышленных масштабах, монетизируют его через рекламу, партнёрские программы, продажу ссылок. Себестоимость: ноль. Доход: пропорционален объёму. Стимул:

генерировать больше. Это не злодеи. Это рациональные агенты в среде, которая вознаграждает объём и не наказывает за отсутствие качества.

Производители инструментов. Компании, которые продают LLM, API, детекторы, системы модерации. Чем больше слопа, тем больше спрос на инструменты. Слоп и антислоп — это два рынка, которые растут вместе. Производители инструментов выигрывают от обеих сторон.

2.6.2. Проигрывают

Специалисты. Люди, которые вкладывали годы в экспертизу, обнаруживают, что их экспертиза обесценена. Не потому, что она перестала быть нужной, а потому, что её стало невозможно отличить от имитации. Репутация, которая строилась годами, размывается потоком слопа. Специалисты уходят из публичных пространств. Их голос становится тише. Общественное знание беднеет.

Читатели. Люди, которые ищут информацию, получают слоп. Они не знают, что получают слоп, потому что слоп выглядит как информация. Они принимают решения на основе симуляции знания. Ошибки отложены. К моменту, когда ошибка становится видна, источник уже не найти. Читатели платят временем, вниманием и качеством решений.

Наука. Научные препринты, статьи, обзоры — всё это заполняется слопом. Ссылки на

несуществующие исследования. Цитаты из выдуманных работ. Рецензирование не справляется с объёмом. Репутация журналов падает. Доверие к науке падает. Знание перестаёт быть кумулятивным, потому что невозможно отличить вклад от шума.

Инженерия. Код, документация, архитектурные решения — всё это заполняется слопом. Код работает в изоляции, но ломается в интеграции. Документация описывает несуществующие API. Архитектурные решения основаны на симуляции опыта. Технический долг накапливается. Инциденты растут. Отладка занимает всё больше времени. Скорость разработки падает. Компании, которые верили, что ИИ ускоряет разработку, обнаруживают, что он ускоряет написание, но замедляет понимание.

Культура. Язык, литература, публицистика, критика — всё это размывается слопом. Слоп не создаёт смысла. Он создаёт форму. Культура, которая потребляет форму без смысла, деградирует. Не потому, что люди стали глупее. А потому, что среда перестала вознаграждать смысл.

КЕЙС-ИССЛЕДОВАНИЕ. анализ одной технической площадки до и после 2023

В 2024 году группа исследователей из университета (название опущено по этическим соображениям) провела анализ одной крупной технической площадки. Площадка была выбрана потому, что она публикует историю правок, метаданные и статистику модерации. Данные охватывают период с января 2020 по декабрь 2024. Ниже — ключевые находки, реконструированные в текстовые графики. График 1: Объём публикаций (постов в месяц)

2020: ############100%

2021: #############110%

2022: ################140%

2023: #########################210%

2024: #####################################300%

Рост в три раза за четыре года. Причём основной скачок — 2023 год, сразу после массового внедрения ChatGPT. До 2023 рост был линейным. После — экспоненциальным.

График 2: Среднее время до первого полезного ответа

«Полезный ответ» определялся как ответ, который автор вопроса отметил как решённый, или ответ, получивший наибольшее число голосов «за» без последующего опровержения.

2020: ########40 минут

2021: #########45 минут

2022: #############65 минут

2023: ########################120 минут

2024: ##################################360 минут

Время до полезного ответа выросло в девять раз. Причина: полезные ответы тонут в потоке слопа. Читатель видит 47 ответов, из которых 45 — сгенерированы. Он не может быстро найти два живых. Эксперты, которые раньше отвечали первыми, теперь не отвечают вообще, потому что их ответы не видны в потоке.

График 3: Доля комментариев, удалённых модерацией

2020: ##2%

2021: ##2.5%

2022: ####5%

2023: ##############18%

2024: #########################31%

Доля удалённых комментариев выросла в 15 раз. Модерация не справляется. Каждый удалённый комментарий — это человеко-час работы. При росте объёма в три раза и росте доли нарушений в шесть раз, нагрузка на модерацию выросла в 18 раз. Команда модерации выросла в два раза. Разрыв — девятикратный.

График 4: Активность топ-100 авторов

2020: ####################100% активности

2021: ##################92%

2022: ################80%

2023: ##########52%

2024: #####28%

Активность лучших авторов упала на 72% за четыре года. Это самый тревожный график. Он показывает, что проблема не в том, что «новички генерируют слоп». Проблема в том, что опытные авторы уходят. Они не конкурируют со слопом, потому что конкуренция бессмысленна. Они просто перестают писать. Площадка теряет ядро. Остаётся оболочка.

График 5: Соотношение «живых» и «сгенерированных» комментариев

Оценка на основе выборки из 10 000 комментариев, прогнанных через три детектора и проверенных вручную.

2020:

Живые ########################################98%

Слоп ##2%

2021:

Живые #######################################97%

Слоп ###3%

2022:

Живые ####################################90%

Слоп ########10%

2023:

Живые ##########################65%

Слоп ################35%

2024:

Живые ###########28%

Слоп ############################72%

К концу 2024 года менее трети комментариев на площадке были написаны живыми людьми. И это оптимистичная оценка. Детекторы пропускают часть слопа. Гибридные комментарии (человек редактирует слоп) не учитываются. Реальная доля живого контента может быть ещё ниже.

Выводы исследования

Объём растёт, качество падает. Это не противоречие. — Это следствие экономики: производство дешево, проверка дорога.

Полезность падает быстрее, чем объём растёт. Время до полезного ответа выросло в девять раз при росте объёма в три раза. Это значит, что слоп активно мешает поиску полезного контента.

Эксперты уходят первыми. Они не борются со слопом. Они просто уходят. Это рационально: их время стоит дорого, а отдача падает.

Модерация не масштабируется. Даже при росте команды в два раза, разрыв между объёмом нарушений и способностью их обрабатывать растёт.

Площадка не умерла. Она опустела. Метрики вовлечённости остаются высокими. Но это вовлечённость машин в разговор с машинами.

Этот кейс — не исключение. Это норма. Любая площадка, которая не ввела жёсткие барьеры для слопа, проходит тот же путь. Вопрос не в том,

«случится ли это». Вопрос в том, «как быстро».

ПРАКТИКА. Как посчитать «индекс слопа» площадки

Если вы управляете сообществом, модерируете форум или просто хотите понять, насколько ваша площадка поражена слопом, используйте следующий протокол. Он не требует специальных инструментов, только данные, которые обычно доступны администрации.

Шаг 1. Выборка

Возьмите случайную выборку из 200—500 комментариев или постов за последний месяц. Не выбирайте вручную — используйте генератор случайных чисел или встроенные инструменты выборки.

Шаг 2. Ручная разметка

Разметьте каждый элемент по трём категориям:

Живой. Автор демонстрирует конкретный опыт, — называет детали, признаёт неопределённость, отвечает на уточнения.

Слоп. Признаки генерации: идеальная структура, отсутствие конкретики, шаблонные обороты, отсутствие реакции на уточнения.

Серый. Нельзя однозначно определить.

Гибридные случаи. Сгенерировано, но отредактировано человеком.

Шаг 3. Расчёт

Индекс слопа (IS) = (Слоп +0.5 x Серый) / Общее количество x 100

Шаг 4. Дополнительные метрики

Время до полезного ответа (ВПО). Среднее время — от публикации вопроса до ответа, который автор отметил как решённый.

Доля удалённых комментариев (ДУК).

Процент комментариев, удалённых модерацией.

Активность топ-авторов (АТА). Процент активности — топ-100 авторов относительно базового периода.

Плотность доверия (ПД). Количество уникальных авторов, которые получили ответы от других уникальных авторов, делённое на общее количество авторов.

Шаг 5. Интерпретация

Индекс слопа

Состояние площадки

Рекомендация

0—10% Здоровая Поддерживать 10—25% Настораживающая Ввести барьеры 25—50% Критическая Срочные меры

50—75% Предсмертная Радикальные

меры

75%+ Пустая Спасать нечего

Шаг 6. Повтор

Повторяйте измерение раз в месяц. Стройте график. Если индекс растёт — действуйте. Если падает — анализируйте, что сработало.

КЕЙС. «Как одна площадка посчитала свой индекс слопа и что из этого вышло»

В середине 2024 года администрация одного из нишевых технических форумов (назовём его

«Форум X») решила провести аудит. Форум был небольшим: около 5000 активных пользователей, 200—300 новых постов в месяц. Не гигант. Но достаточный, чтобы проблема была заметна. Команда взяла выборку из 300 комментариев за июнь 2024. Разметили вручную — три модератора, каждый проверял 100 комментариев, потом перекрёстная проверка. Результат:

— Живые: 168 (56%)

— Слоп: 102 (34%)

— Серый: 30 (10%)

Индекс слопа: (102 +0.5 x 30) / 300 x 100 = 39%.

Площадка была в критическом состоянии. Но не в предсмертном.

Дополнительные метрики:

1. ВПО: 4.5 часа (год назад — 45 минут)

2. ДУК: 22% (год назад — 4%)

3. АТА: 41% (год назад — 88%)

Команда решила действовать. Что они сделали:

Ввели обязательную верификацию для новых — пользователей. Не «капчу». А подтверждение личности через профиль на GitHub или LinkedIn. Не идеально, но отсекло 80% ботов.

Ввели «карантин» для первых 5 сообщений.

Новые пользователи не могли отвечать в технических ветках, пока не задали три вопроса и не получили ответы. Это отсекло слоп, потому что слоп не задаёт вопросов.

Ввели правило «контекст или удаление».

Любой ответ без ссылки на конкретный опыт, версию, проект — удалялся. Жёстко. Модераторы получили инструкцию:

«Сомневаешься — удаляй. Лучше потерять живой ответ, чем оставить слоп».

Ввели публичные метрики здоровья. Индекс слопа, ВПО, ДУК, АТА — всё публиковалось ежемесячно. Это создало прозрачность и давление на сообщество.

Ввели «репутационные токены» для модерации. — Пользователи с высоким рейтингом получили право голоса в спорных случаях. Это распределило нагрузку и повысило легитимность решений.

Через три месяца:

Индекс слопа: 18%. Падение в два раза.

2. ВПО: 1.5 часа. Падение в три раза.

3. ДУК: 9%. Падение в 2.5 раза.

4. АТА: 62%. Рост в 1.5 раза.

Через шесть месяцев:

Индекс слопа: 11%.

6. ВПО: 50 минут.

7. ДУК: 6%.

— АТА: 79%.

Форум не стал «как раньше». Раньше индекс слопа был 3—5%. Но он стал работоспособным. Эксперты вернулись. Поток слопа сократился. Площадка снова стала местом, где можно получить полезный ответ.

Что сработало? Не технологии. Барьеры. Каждый барьер отсекал часть слопа и часть живых. Но соотношение изменилось: живые были готовы проходить барьеры, слоп — нет. Потому что слопу не нужна площадка. Ему нужен любой канал распространения. Если канал требует усилий, слоп уходит в канал, который не требует. Живым людям нужна конкретная площадка. Они готовы платить усилием за доступ к сообществу.

Это ключевой вывод. Слоп не боится барьеров. Слоп боится отсутствия аудитории. Барьеры не убивают слоп. Барьеры делают площадку невыгодной для слопа и выгодной для живых. Это не победа над слопом. Это локализация.

ЧТО ЗАПОМНИТЬ

1. Закон Грешема для информации: плохой контент вытесняет хороший, потому что дешевле в производстве и неотличим в потреблении.

2. Внимание — дефицитный ресурс. Контент — избыточный. Экономика контента — это борьба за узкое горлышко внимания.

3. Цикл генерации слопа: генерация -> публикация -> алгоритмическое продвижение

— > монетизация. Проверка не входит в цикл.

4. Парадокс «дешёвого доверия»: LLM имитирует репутацию за секунды, обесценивая настоящую репутацию, которая строилась годами.

5. Dead Internet Theory — не заговор, а экономический прогноз. Публичный интернет движется к состоянию, где большая часть контента генерируется машинами для машин.

6. Выигрывают платформы, рекламодатели, генераторы трафика, производители инструментов. Проигрывают специалисты, читатели, наука, инженерия, культура.

Слоп не боится барьеров. Слоп боится отсутствия — аудитории. Барьеры делают площадку невыгодной для слопа и выгодной для живых.

«Индекс слопа» — рабочий инструмент для диагностики — площадки. Считайте его регулярно. Если растёт — действуйте.

ЧТО ПОЧИТАТЬ/ПОСМОТРЕТЬ

Майкл Голдхабер, «Внимание — валюта» (Attention, 2019) — эссе и лекции о том, как внимание стало дефицитным ресурсом и как экономика монетизирует его. Прямая параллель с экономикой слопа.

Тим Ву, «Властелины вселенной» (The Curse of Bigness, 2018) и его статьи о регулировании технологических платформ — о том, почему платформы не заинтересованы в решении проблемы, которую сами создают.

Шошана Зубофф, «Эпоха надзорного капитализма» — (The Age of Surveillance Capitalism, 2019) — фундаментальный труд о том, как внимание монетизируется. Читать с поправкой на генеративный ИИ, но базовая механика та же.

Отчёт «The Dead Internet Theory» от Pew Research — (2024) — попытка эмпирически оценить долю сгенерированного контента в публичном интернете. Цифры, методология, ограничения. Полезно для калибровки.

Дискуссии на Meta Stack Overflow о

«AI-generated content policy» (2023—2024) — реальные кейсы, реальные решения, реальные провалы. Читать как полевые заметки с передовой.

ГЛАВА 3. ЦИФРОВАЯ КРИМИНАЛИСТИКА: КАК ОТЛИЧИТЬ ЖИВОЙ ОПЫТ ОТ ГЕНЕРАЦИИ

«Я не могу доказать, что ты человек. Но я могу попросить тебя рассказать, как ты ломал прод в три часа ночи. И

посмотреть, что ты ответишь».

— из руководства для модераторов одной из закрытых площадок,

3.1. Крючок-сцена

В июне 2024 года редактор научного журнала по материаловедению (назовём его доктор В., 15 лет в профессии) получил на рецензирование статью. Тема: «Влияние легирующих добавок на коррозионную стойкость алюминиевых сплавов в морской воде». Статья была оформлена идеально: абстракт, введение, методология, результаты, обсуждение, заключение, 47 ссылок. Все ссылки — на реальные журналы. Все цифры — правдоподобные. Все графики — чистые, аккуратные, с подписями осей.

Доктор В. открыл статью, прочитал абстракт, кивнул. Потом прочитал раздел «Методология» и нахмурился. Там было написано: «Образцы были

подготовлены в соответствии со стандартом ASTM G48». Стандарт ASTM G48 — это метод испытания на точечную коррозию. Он не описывает подготовку образцов. Он описывает процедуру испытания. Это как сказать: «Я приготовил суп в соответствии с инструкцией по вождению автомобиля».

Доктор В. продолжил читать. Раздел

«Результаты» содержал таблицу с данными. Все значения были кратны 0.5. Все — в диапазоне, который выглядел правдоподобно. Ни одного выброса. Ни одной аномалии. Ни одного «мы не смогли объяснить этот результат». В реальном эксперименте такое бывает раз в жизни. В статье — 12 таблиц, и все идеальные.

Доктор В. написал автору (автор был из университета, который существовал, но кафедра, указанная в статье, не значилась на сайте). Вопрос:

«Не могли бы вы прислать исходные данные и фотографии образцов?» Ответ пришёл через два часа. «К сожалению, исходные данные утеряны из-за сбоя жёсткого диска. Фотографии не сохранились. Но результаты воспроизводимы, мы можем повторить эксперимент». Доктор В. написал:

«Хорошо, повторите. Пришлите новый протокол». Ответ не пришёл.

Через неделю доктор В. прогнал статью через детектор. Результат: 91% вероятность генерации. Он проверил ещё 20 статей, которые пришли в тот же месяц. 12 из них — сгенерированы. Все — с идеальными ссылками. Все — с правдоподобными

данными. Все — от авторов, которые не могли ответить на базовые вопросы о собственной методологии.

Это не фантастика. Это работа редактора в 2024 году. И если вы думаете, что это проблема только научных журналов, — вы ошибаетесь. Это проблема любого ревью. Кода. Дизайна. Аналитики. Юриспруденции. Медицины. Везде, где кто-то должен проверить работу другого, и где проверка стоит времени, а генерация — ничего.

Эта глава — о том, как ловить слоп. Не «как определить, что текст сгенерирован». Это невозможно. А «как отличить живой опыт от его имитации». Это возможно. Потому что опыт оставляет следы. А имитация — нет.

3.2. Почему детекция — это не «определить ИИ»

«определить ИИ»

Прежде чем перейти к методам, нужно разобраться с фундаментальной ошибкой. Большинство людей, которые пытаются

«детектировать ИИ», ищут не то. Они ищут признаки машины. Они ищут watermark, статистику, паттерны. Это тупиковый путь. Почему?

Первая причина: детекторы не работают надёжно. Точность детекторов на коротких текстах

• 60—80%. На длинных — падает до случайного угадывания. На текстах, отредактированных человеком, — падает ещё ниже. На текстах,

сгенерированных локальными моделями, — почти ноль. Гонка вооружений между генерацией и детекцией — это гонка, в которой детекция всегда отстаёт, потому что детекция реагирует, а генерация атакует.

Вторая причина: «признаки ИИ» — это не признаки ИИ. Равномерность? Живые люди тоже пишут равномерно. Отсутствие опечаток? Живые люди тоже вычитывают. Структурированность? Живые люди тоже структурируют. Список из семи пунктов? Живые люди тоже любят списки. Все

«признаки ИИ» — это признаки формы, а форму можно имитировать. И наоборот: живой текст может выглядеть как сгенерированный, если автор пишет чисто и структурно.

Третья причина: цель не в том, чтобы поймать машину. Цель в том, чтобы найти источник опыта. Машина — это не проблема. Проблема — отсутствие источника. Текст, сгенерированный машиной и проверенный человеком с опытом, — это не слоп. Это инструмент. Текст, написанный человеком без опыта, — это слоп. Текст, сгенерированный машиной и не проверенный никем, — это слоп. Разница не в том, «кто написал». Разница в том,

«есть ли за текстом ответственность».

Поэтому детекция слопа — это не «определить ИИ». Это определить наличие или отсутствие источника опыта. И это принципиально другая задача. Она не решается техническими средствами. Она решается разговором. Провокацией.

Контрольным вопросом. Давлением. Всем тем, что заставляет источник проявиться — или исчезнуть.

Ниже — пять уровней детекции. Они идут от самого слабого (лексический) к самому сильному (поведенческий). Слабые уровни дают сигнал, но не доказательство. Сильные уровни дают доказательство, но требуют взаимодействия. Комбинируйте.

3.3. Уровень 1. Лексический: паттерны LLM

Самый слабый уровень. Даёт сигнал, но не доказательство. Используйте как первый фильтр, не как приговор.

Что искать

Равномерность тона. Живой текст дышит неровно. Где-то автор торопится, где-то замедляется, где-то увлекается, где-то скучает. LLM выдаёт ровный поток. Каждое предложение — той же длины, того же ритма, той же уверенности. Нет

«ям» и «горбов».

Отсутствие «швов». Живой текст имеет швы: отступления, вставки, «кстати», «забыл сказать»,

«вернусь к теме». LLM выдаёт бесшовный поток. Каждый абзац переходит в следующий идеально. Нет зазоров, нет следов сборки.

Характерные обороты. LLM обучена на текстах, написанных людьми, и воспроизводит их клише.

«Важно отметить», «стоит подчеркнуть», «в заключение», «таким образом», «необходимо

учитывать», «играет ключевую роль», «является неотъемлемой частью». Сами по себе эти обороты

• не признак. Их используют живые люди. Признак

плотность. Если на 500 слов приходится 8 таких оборотов, это сигнал.

Отсутствие опечаток при сложной теме. Живой эксперт, который пишет о сложной теме, делает ошибки. Не потому, что неграмотный. Потому что думает о содержании, а не о форме. LLM не делает ошибок. Она оптимизирована под грамотность. Если текст о квантовой механике написан без единой опечатки и без единой стилистической неровности — это сигнал.

Лексическая «сглаженность». LLM избегает редких слов, диалектизмов, профессионального жаргона в неожиданных местах. Живой эксперт вставляет жаргон органично: «ну, это классический race condition», «у нас был тот ещё hell». LLM использует жаргон, но правильно — всегда в кавычках, всегда с пояснением. Это выглядит как учебник, а не как разговор.

Гиперкорректность. LLM не использует сокращений, не пишет «чё», «щас», «норм». Она пишет «что», «сейчас», «нормально». Это не признак, потому что живые люди тоже так пишут. Но в сочетании с другими сигналами — работает.

Ограничения уровня

Лексический уровень не работает на:

• Коротких текстах (меньше 100 слов).

• Текстах, отредактированных человеком.

• Текстах, написанных живыми людьми, которые пишут чисто и структурно.

• Текстах на языках, где LLM менее обучена (русский — средний уровень, редкие языки — низкий).

Как использовать

Используйте лексический уровень как первый фильтр. Если текст вызывает подозрение — переходите к следующему уровню. Если не вызывает — не расслабляйтесь. Слоп может быть лексически безупречен.

3.4. Уровень 2. Структурный: композиция без жизни

Структурный уровень сильнее лексического. Он смотрит не на слова, а на архитектуру текста. Живой текст имеет структуру, но она органическая. Слоп имеет структуру, но она механическая.

Что искать

Идеальная композиция. Живой текст часто отклоняется от плана. Автор начинает с одного, уходит в сторону, возвращается, понимает, что забыл важное, вставляет. LLM выдаёт идеальную композицию: введение, три-пять разделов, заключение. Каждый раздел — той же длины. Каждый — с подзаголовком. Ни одного отклонения.

«Список из семи пунктов». LLM любит списки. Причём списки определённой длины: 3, 5, 7. Не 4, не 6, не 8. Списки из семи пунктов — особенно частый паттерн. Если текст состоит из серии списков по 5—7 пунктов, это сигнал.

Отсутствие конкретики. Живой текст полон конкретики: имена, версии, даты, цифры, названия. Слоп говорит обобщённо: «многие компании», «исследования показывают», «эксперты считают». Конкретика появляется, но она декоративная: «например, в 2023 году одна крупная компания…». Никаких имён. Никаких проверяемых фактов.

Симметрия. Живой текст асимметричен. Один раздел длиннее, другой короче. Одна идея развёрнута, другая упомянута вскользь. LLM выдаёт симметрию: все разделы примерно равны, все идеи примерно равно разработаны. Это выглядит красиво, но это не жизнь. Жизнь неравномерна.

Отсутствие «мусора». Живой текст содержит мусор: повторения, оговорки, «как я уже говорил»,

«возвращаясь к предыдущему». LLM выдаёт чистый текст. Ни одного повторения. Ни одной оговорки. Это выглядит профессионально, но это не разговор. Это презентация.

Заключение, которое ничего не заключает. LLM любит заканчивать текст «заключением», которое повторяет сказанное другими словами. Живой автор часто заканчивает мыслью, а не

«заключением». Или вопросом. Или шуткой. Или ничем — просто обрывает.

Ограничения уровня

Структурный уровень не работает на:

• Текстах, написанных по шаблону (техническая документация, научные статьи, отчёты).

Текстах, — отредактированных профессиональным редактором.

• Коротких текстах.

Как использовать

Структурный уровень — второй фильтр. Он ловит слоп, который прошёл лексический. Если текст структурно идеален и при этом лишён конкретики — это сильный сигнал. Но всё ещё не доказательство.

3.5. Уровень 3. Семантический: отсутствие «запаха» реального проекта

«запаха» реального проекта

Семантический уровень — самый важный из

«статических» уровней. Он смотрит не на форму, а на содержание. Точнее — на следы содержания. Живой опыт оставляет следы. Имитация — нет.

Что искать

Запах реального проекта. Живой эксперт говорит о конкретных вещах: «у нас был случай, когда kubelet падал из-за cgroup v2, и мы три дня не могли понять, почему». Слоп говорит обобщённо: «при работе с Kubernetes важно учитывать ограничения cgroup». Запах реального проекта — это детали, которые невозможно выдумать, не пережив. Номера версий. Названия внутренних инструментов. Имена коллег. Ошибки, которые были допущены. Время, которое было потрачено.

Признание неопределённости. Живой эксперт говорит: «Я не уверен, но, кажется…», «У меня не получилось воспроизвести, но коллега говорил…»,

«Я не проверял это в проде, так что осторожно». Слоп не признаёт неопределённости. Он уверен. Всегда. Потому что уверенность — это форма, а форма — это то, что он умеет.

Следы борьбы. Живой текст содержит следы борьбы с материалом: «Сначала я думал, что проблема в X, но потом оказалось, что в Y», «Я перепробовал три подхода, и только третий сработал». Слоп не борется. Он выдаёт готовый результат. Без пути. Без тупиков. Без «я ошибался».

Контекст, который не нужен. Живой эксперт часто добавляет контекст, который не нужен для ответа, но нужен для понимания: «Это было в 2019 году, мы тогда ещё использовали старый стек…», «У нас была команда из пяти человек, и двое ушли в середине проекта…». Слоп не добавляет ненужный

контекст. Он оптимизирован под релевантность. Он выдаёт только то, что нужно для ответа. А жизнь

— это избыток.

Эмоции. Живой эксперт выражает эмоции: раздражение, удивление, радость, усталость. «Это был ад», «Я был в шоке, когда увидел логи»,

«Наконец-то заработало, я чуть не заплакал». Слоп не выражает эмоций. Он вежлив. Он нейтрален. Он профессионален. Эмоции — это трение. Слоп оптимизирован под отсутствие трения.

Конкретные ошибки. Живой эксперт помнит свои ошибки: «Я потратил два дня, потому что забыл про max_connections», «Мы потеряли данные, потому что не настроили бэкапы». Слоп не помнит ошибок. У него нет ошибок. Он не ошибался. Он просто знает.

Ограничения уровня

Семантический уровень — самый надёжный из статических. Но он не работает, если:

1. Вы не эксперт в области. Вы не можете отличить «запах реального проекта» от «запаха учебника».

2. Текст короткий. За 100 слов невозможно передать запах проекта.

3. Автор — опытный генератор слопа, который обучен добавлять «фальшивые детали».

Как использовать

Семантический уровень — третий фильтр. Если текст прошёл лексический и структурный, но лишён запаха реального проекта — это сильный сигнал слопа. Если текст имеет запах — это сигнал живого. Но и то, и другое — не доказательство. Доказательство даёт только поведенческий уровень.

3.6. Уровень 4. Поведенческий: реакция на уточнения и давление

Поведенческий уровень — первый уровень, который даёт доказательство. Он смотрит не на текст, а на поведение автора. Живой автор реагирует на уточнения. Слоп — нет.

Что искать

История пользователя. Откройте профиль. Сколько сообщений? Какие? Когда зарегистрирован? Если аккаунт создан три дня назад, а сообщение — экспертный ответ на 800 слов, это сигнал. Если аккаунт создан год назад, но все сообщения — общие вопросы и благодарности, а потом вдруг экспертный ответ — это сигнал. Если аккаунт имеет историю: вопросы, ответы, ошибки, исправления, споры — это сигнал живого.

Реакция на уточняющий вопрос. Задайте вопрос. Не «что вы имели в виду», а конкретный:

«Вы упомянули cgroup v2. Какая версия kubelet? Какая версия ядра? Какая конфигурация systemd?»

Живой эксперт ответит. Слоп — нет. Слоп либо проигнорирует, либо ответит обобщённо, либо сгенерирует новый ответ, который не отвечает на вопрос.

Реакция на давление. Попросите доказательство. «Можете прислать лог?» «Можете показать конфиг?» «Можете назвать версию?» Живой эксперт либо пришлёт, либо скажет: «Не могу, это внутренние данные». Слоп не пришлёт. Слоп не скажет: «Не могу». Слоп исчезнет. Или сменит тему. Или сгенерирует новый ответ, который выглядит как доказательство, но не является им.

Реакция на ошибку. Укажите на ошибку. Не агрессивно, а нейтрально: «Мне кажется, вы перепутали gMSA и sMSA. gMSA — это group Managed Service Account, а sMSA — standalone». Живой эксперт либо признает ошибку, либо объяснит, почему вы неправы. Слоп — либо проигнорирует, либо сгенерирует новый ответ, который

«исправляет» ошибку, не признавая её.

Реакция на просьбу о контрпримере. Попросите контрпример: «Вы говорите, что это работает. Можете привести случай, когда это не работает?» Живой эксперт приведёт. Слоп — нет. Слоп не знает границ своего знания. Потому что у него нет знания. У него есть только форма.

Скорость ответа. Живой эксперт отвечает с задержкой. Ему нужно подумать, проверить, вспомнить. Слоп отвечает мгновенно. Или через равные интервалы. Или в 3 часа ночи. Скорость —

не доказательство, но сигнал.

Консистентность. Задайте тот же вопрос через неделю. Живой эксперт ответит примерно то же самое, но другими словами. Слоп ответит то же самое теми же словами. Или ответит по-другому, потому что сгенерирует новый ответ. Консистентность — сигнал.

Ограничения уровня

Поведенческий уровень не работает, если:

1. Автор — бот, запрограммированный на имитацию поведения (существуют).

2. Автор — человек, который использует LLM для генерации ответов, но проверяет их (это не слоп, это инструмент).

3. У вас нет возможности взаимодействовать с автором.

Как использовать

Поведенческий уровень — основной инструмент. Он даёт доказательство. Если автор не реагирует на уточнения, не признаёт ошибок, не приводит контрпримеров, не имеет истории — это слоп. Не «вероятно слоп». Слоп. Потому что живой опыт не может не реагировать. Опыт — это способность реагировать на новое. Если реакции нет — опыта нет.

3.7. Уровень 5. Технический: watermark, перплексия, метаданные

Технический уровень — самый слабый из всех. Он даёт сигнал, но не доказательство. И он наименее надёжен. Используйте его только как дополнительный фильтр.

Что искать

Watermark. Некоторые LLM встраивают watermark в текст: невидимые паттерны, которые позволяют идентифицировать генерацию. Проблема: watermark легко удаляется. Достаточно попросить LLM «перепиши текст другими словами»

— и watermark исчезает. Или отредактировать текст вручную. Или прогнать через переводчик. Watermark работает только на «сырых» текстах. На отредактированных — нет.

Перплексия. Представьте, что вы читаете текст и на каждом слове знаете, какое будет следующее.

«Сегодня я пошёл в…» — и вы уже знаете:

«магазин». «Он открыл…» — «дверь». Это низкая перплексия. LLM так пишет. Живой текст — вы не знаете, что будет дальше. «Сегодня я пошёл в…» — а дальше «поликлинику, и там мне сказали, что я здоров, но я не поверил». Высокая перплексия — это след мысли, которая идёт, а не предсказывает.

Burstiness. Посмотрите на этот абзац. Первое предложение короткое. Второе — длиннее, потому что мысль разворачивается, добавляет детали, уточняет. Третье — снова короткое. Четвёртое —

длинное, с запятыми, с отступлением. Это burstiness. Живой текст дышит неровно. LLM выдаёт ровный поток: все предложения примерно одной длины, все абзацы примерно одного объёма. Как презентация. Как учебник. Как не-жизнь.

Метаданные. Некоторые платформы сохраняют метаданные: время создания, время редактирования, IP, устройство. Если текст создан за 11 секунд после регистрации — это сигнал. Если текст создан в 3 часа ночи с того же IP, что и 50 других аккаунтов — это сигнал. Метаданные — хороший сигнал, но требуют доступа.

Детекторы. Существуют инструменты (GPTZero, Originality.ai, Turnitin и др.), которые обещают