Четыре вопроса о вашей задаче и честный ответ, нужна ли ей вообще модель.
«ИИ» — слово, под которое дают деньги, поэтому за LLM тянутся там, где обычная функция справилась бы быстрее, дешевле и надёжнее. Честный дефолт обратный: используйте код, пока задаче по-настоящему не понадобится понимание языка или суждение, которые не заскриптовать, — и даже тогда предпочитайте гибрид, где несущую работу делает детерминированный код, а модель берёт лишь нечёткий край. Модель, которая вам не нужна, — это просто медленная, дорогая, недетерминированная функция со счётом побольше.
Ответьте на все вопросы, чтобы увидеть рекомендацию.
Все варианты вкратце
Просто код — модель не нужна
Функция, правило, запрос — написано один раз, работает всегда одинаково. Это бесплатно, мгновенно, тестируемо и никогда не галлюцинирует. Если чёткое правило на чистом входе даёт ответ, LLM здесь — это обуза в костюме фичи.
Выбирайте это, когда
Правило или расчёт определяет верный ответ
Вход уже структурирован и предсказуем
Вы хотите быстро, дёшево, детерминированно и легко тестируемо
Компромиссы
Не справится с входами, которые вы не предусмотрели, или с грязным человеческим языком
Логику придётся реально написать и поддерживать
Добавляйте LLM позже, только если появится настоящий нечёткий край
Гибрид — ядро на коде, модель по краям
Изощрённая середина — и чаще верный ответ, чем любая крайность. Несущую работу делает детерминированный код, он же владеет источником правды; модель берёт лишь нечёткую часть — читает грязный вход, черновит, предлагает, — а ваши правила её заземляют и проверяют. Вы получаете гибкость модели, не ставя на неё правильность.
Выбирайте это, когда
Логика заскриптовываема, но вход приходит грязным языком
Нужно суждение, но есть структурный костяк или проверяемый ответ
Вам нужен охват модели, но вы отказываетесь доверять ей без проверки
Компромиссы
Больше подвижных частей, чем у любого чистого подхода, — два слоя проектировать
Придётся провести черту: чем владеет код и что модели позволено решать
Шаг с моделью всё равно требует заземления и проверки, а не слепого доверия
LLM — это правда её работа
Грязный свободный текст на входе, открытое суждение на выходе, и единственного верного ответа не вычислить. Суммаризация, черновики, классификация нечёткого намерения, ответ на естественном языке — это то, что хорошо делает только модель, и притворяться иначе значит вручную пересобирать худшую её копию.
Выбирайте это, когда
Задача — открытый язык или суждение, а не правило
Вход — грязный, разнородный человеческий текст, который не предусмотреть
Нет единственного верного вывода, с которым можно сверить
Компромиссы
Стоит денег и задержки на каждом вызове — следите за этим в масштабе
Недетерминирована и трудно проверяема — оберните в evals и ограждения
Заземляйте на реальный источник правды; никогда не пускайте непроверенный ответ к тому, что важно