Заметки
Короткие тексты о методологии и архитектурных решениях в AI-системах, которые я довожу до продакшена: спецификации, evals, мультиагентная оркестрация, LLM-интеграции и дисциплина работы с coding-агентами.
5 июня 2026 г.
Лучший security-ИИ теперь за бархатным канатом — планируй так, будто тебя нет в списке
Этой весной ИИ пересёк черту: Mythos от Anthropic сам нашёл тысячи невиданных 0-day, а OpenAI выпустил «кибер»-модель, более снисходительную к хакерским задачам. Та же модель, что находит тысячу дыр, чтобы их закрыть, находит их, чтобы в них пройти, — поэтому лаборатории убрали лучшие security-модели за бархатный канат, открыв доступ только проверенным партнёрам и правительствам. Это объяснимо. И это значит, что вендор теперь решает, кого защищать. Вот честное прочтение для всех, кого нет в списке.
- security
- business
5 июня 2026 г.
Агент, который «закрывает продажи» — то, что прячет демо
Meta только что выпустила агента, который не просто болтает — он бронирует встречи, квалифицирует лиды, закрывает продажи и проводит платежи, 24/7, на любом языке, подключённый к Shopify и Zendesk. Миллион бизнесов уже на нём. Демо — магия. Что оно прячет: автономную штуку, действующую на твой бизнес, на машинной скорости, по сообщениям незнакомцев, — и закон только что закрыл лазейку «это сделал ИИ». Вот честная версия.
- security
- business
- agents
5 июня 2026 г.
ИИ только что начал профилировать тебя в фоне
До этой недели ChatGPT помнил только то, что ты сам велел запомнить. С 4 июня он «видит сны» — фоновый процесс читает все твои прошлые чаты и тихо строит твою модель, сам поддерживая её в актуальном виде. Это правда полезный апгрейд — и момент, когда чат-бот стал профайлером. Европейский регулятор данных сказал ровно это, сегодня. Вот что реально изменилось, простыми словами, — и почему это проблема заземления, наведённая на тебя.
- ai-native
- security
4 июня 2026 г.
Память — это новая поверхность атаки
Все наперегонки дают агентам долговременную память — очевидный апгрейд. Но долговечная возможность — это долговечная уязвимость. Prompt injection одноразова и сбрасывается; memory poisoning записывает одну ложь в хранилище агента, и она едет с ним сквозь каждую будущую сессию, для каждого пользователя, пока кто-то её не вычистит. Она оружием делает саму суть памяти — обучение на прошлом. Вот как работает «атака, которая ждёт», и как её огородить.
- security
- architecture
- agents
4 июня 2026 г.
Год, когда агент стал атакующим
Год назад безопасность агентов была мысленным экспериментом — а что если твоего агента обманут? В 2026-м она стала конкретной, в трёх видах: один любитель с помощью Claude Code и GPT взломал девять госагентств и 195 миллионов записей; ИИ провёл кампанию против 600 файрволов в 55 странах без человека за рулём; а внутренний агент Meta слил чувствительные данные вообще без атакующего. Один и тот же опасный примитив, наведённый в три стороны. Вот честная модель угроз.
- security
- agents
3 июня 2026 г.
Твой агент доверяет описанию инструмента. Это и есть дыра.
Для языковой модели нет разницы между данными, которые ты ей дал, и инструкцией — она читает всё как возможную команду. Этот один факт — и есть вся безопасность ИИ-агентов. Вот как он превращает полезный инструмент в канал утечки данных, почему промптом это не починить, и единственное структурное правило — lethal trifecta — которое говорит, когда твой агент по-настоящему опасен.
- agents
- security
- methodology