fedorthinks
Все заметки

SECURITY · 1 июля 2026 г.

Интернет потемнел. Строй под веб, которому нельзя верить.

«Теория мёртвого интернета» была конспирологическим мемом. Теперь, когда большинство новых веб-страниц содержат ИИ-контент, это инженерное ограничение. Твои агенты достают контент из веба, где ты больше не можешь знать, кто — или что — что-либо произвёл. Опасность не в том, что всё фейк; в том, что происхождение стало непознаваемым. А значит, «это в интернете» мертво как сигнал доверия, и доверие должно переехать на уровень данных: подписанные, из allowlist, с прослеживаемым происхождением источники.

Интернет потемнел. Строй под веб, которому нельзя верить.

«Теория мёртвого интернета» годами была конспирологическим углом сети: параноидальная идея, что большая часть интернета — это боты, говорящие с ботами. Это больше не паранойя. По одному анализу 2025 года, более 74% новых веб-страниц содержали ИИ-контент. Какой бы ни была точная цифра, направление неоспоримо: открытый веб теперь в большинстве синтетический, и это превращает мем в инженерную проблему — особенно если ты строишь что-то, что читает веб.

Проблема не в фейке. В непознаваемости.

Инстинкт — бояться, что ИИ-контент неверен. Это не совсем угроза. Многое из него нормально. Реальный ущерб тоньше, и Эндрю Стифел сформулировал хорошо: мёртвый интернет «убивает доверие, делая всё непознаваемым». Ты больше не можешь сказать, что такое страница: человеческая экспертиза или вывод модели, настоящее или SEO-мусор, реальный отзыв или сгенерированный, первоисточник или галлюцинация через три прыжка, которая теперь выглядит цитатой.

Для человека это раздражает. Для агента — структурно. Твой RAG-пайплайн, твой research-агент, твой слой grounding — все они тянутся в этот веб и втягивают контент, будто это сигнал. Но «я нашёл это в интернете» больше ничего не значит. Происхождение, которому ты неявно доверял, не деградировало — оно исчезло.

«Это в интернете» раньше было слабым доказательством. Теперь это не доказательство. Веб перестал быть источником правды и стал источником правдоподобного текста — а это ровно то, что уже производит модель.

Проверять источник теперь важнее, чем проверять модель

Все зациклены на том, галлюцинирует ли модель. Но если ты заземляешь модель на реальный источник, чтобы она не выдумывала, а этот «источник» сам — ИИ-слоп неизвестного происхождения, ты построил машину отмывания: взял недоверенный текст и дал ему авторитет цитаты. Совершенно честная модель, заземлённая на отравленный веб, производит уверенную, снабжённую ссылками чушь.

Так что проблема доверия смещается на уровень ниже. Это не «права ли модель?». Это «доверяю ли я тому, откуда это пришло?». А на в-большинстве-синтетическом вебе ответ по умолчанию — нет.

Строй под тёмный лес

Если происхождение мертво по умолчанию, его надо сделать явным и заслуженным:

  • Allowlist, а не «крауль и молись». Курируй набор источников, которые ты реально проверил. Малый доверенный корпус бьёт открытый веб так же, как библиотека бьёт свалку.
  • Предпочитай подписанное и первичное. Цепочки происхождения, подписи, first-party данные, сама статья вместо блога, пересказавшего твит о ней. Подбирайся как можно ближе к истоку.
  • Считай добытый веб-текст недоверенным вводом. Это не просто источник знаний; это контент под влиянием атакующих и слопа, который глотает твой агент. Проверяй источник, а не только модель.
  • Стань источником, достойным цитирования. Обратная сторона загрязнённого веба в том, что проверяемый, first-party, по-настоящему человеческий сигнал становится ценнее. Будь тем, чему агенты могут верить.

Итог

Веб перешёл черту: он теперь в основном машинный, и сломалась не точность, а познаваемость. Заземлять агента на «интернет» теперь значит заземлять его на океан неатрибутированного синтетического текста — что убивает весь смысл grounding.

Перестань доверять вебу по умолчанию. Перенеси доверие на уровень данных — allowlist, подписи, прослеживание происхождения, — потому что на синтетическом интернете проверка источника — единственный grounding, который ещё что-то значит.

Комментарии

Пока нет комментариев

Войдите, чтобы участвовать в разговоре.

Будьте первым, кто оставит мысль.