Заметки
Короткие тексты о методологии и архитектурных решениях в AI-системах, которые я довожу до продакшена: спецификации, evals, мультиагентная оркестрация, LLM-интеграции и дисциплина работы с coding-агентами.
13 июня 2026 г.
Веб-страница может отдавать приказы вашему агенту
Когда вы даёте ИИ-агенту браузер и позволяете читать страницы, кликать кнопки и выполнять команды, вы передали контроль над ним каждой странице, что он посещает. Исследователи показывали агентов, угнанных инструкциями, спрятанными в тексте сайта, в pastebin-ссылках, даже невидимо внутри скриншотов, на которые агент смотрит. Это называется непрямой инъекцией промпта, и это риск номер один в списке OWASP для LLM-приложений. Агент не отличит ваши инструкции от инструкций страницы. Вот почему это так трудно починить и как строить, чтобы враждебная страница не могла рулить вашим агентом.
- security
- agents
13 июня 2026 г.
Сантехника вашего агента нараспашку
Первое крупномасштабное сканирование удалённых MCP-серверов — коннекторов, через которые ИИ-агенты дотягиваются до ваших инструментов и данных, — нашло, что около 40% выставляют свои инструменты вообще без аутентификации. Censys насчитал 12 520 доступных из интернета MCP-сервисов, большинство без защиты. Отдельный обход 40 000 репозиториев серверов дал 67 новых CVE. Агентный бум выкатил новый слой сантехники в прод быстрее, чем кто-либо его защитил, и прямо сейчас многое из неё открыто. Вот риск простыми словами и что проверить сегодня.
- security
- agents
12 июня 2026 г.
ИИ, который решает, сколько вы заплатите
Есть тихая штука, которую ИИ сделал возможной и о которой большинство не знает: цена, которую вы видите, может быть установлена именно для вас, из ваших же данных — вашей локации, истории браузера, того, что алгоритм считает вас замотанным новым родителем, который заплатит больше. Это называется слежечное ценообразование, и оно отличается от обычного динамического. Регуляторы теперь жёстко на него идут — Нью-Йорк требует это раскрывать, Мэриленд частично запретил, в двух десятках штатов есть законопроекты. Вот что это, почему это важно для вас и какую черту стоит обдумать каждому строителю.
- business
- security
11 июня 2026 г.
Теневой ИИ — это ваша настоящая утечка
Когда компании представляют инцидент безопасности с ИИ, они воображают сошедшую с ума модель или скомпрометированного агента. Утечка, которая реально происходит в большинстве компаний, куда скучнее: их же сотрудники вставляют конфиденциальные данные в ИИ-инструменты, которые никто не одобрял. 71% работников пользовались несогласованным ИИ на работе, 57% активно это скрывают, а у каждой пятой организации уже была связанная с этим утечка — примерно по $670 000 за инцидент. Лечение — не запрет. Запреты и есть причина, почему это спрятано.
- security
- business
11 июня 2026 г.
Вы больше не можете отличить настоящее
Новый опрос нашёл, что 85% людей говорят, что больше не могут надёжно отличить настоящий контент от сгенерированного ИИ — против 66% год назад. 84% говорят, что «убедительное видео-доказательство» больше не ощущается доказательством. Допущение, на котором держался весь интернет — то, что я вижу, настоящее, — только что сломалось почти у всех. Это не только проблема мошенничества. Это тихо меняет, что должен делать каждый продукт: когда подлинность нельзя предположить, доверие перестаёт быть бесплатным и становится тем, что надо строить.
- security
- business
10 июня 2026 г.
Риск никогда не был в модели. Он в системе вокруг неё.
Самый авторитетный орган по безопасности ИИ в мире — больше сотни экспертов под председательством Йошуа Бенжио, при поддержке тридцати государств — пришёл к тихо отрезвляющему выводу: самые насущные риски ИИ исходят не столько от самих моделей, сколько от систем, которые компании строят вокруг них. Не sci-fi сверхинтеллект; интеграции, права доступа, бизнес-процессы, через которые маленькая ошибка распространяется. Для строителей это хорошая новость, потому что значит, что безопасность ИИ — в основном работа, которую вы реально можете сделать.
- architecture
- security