ai-assistants

Требования заказчиков к LLM/AI Firewall

Корпоративный ИИ перестал быть пилотным проектом в одном департаменте. Запросы к моделям идут из IDE, внутренних ассистентов, агентных контуров и «теневых» чатов сотрудников. При этом поверхность атаки выглядит иначе, чем у классического периметра: промпт-инъекция, утечка ПДн во внешнюю модель, неконтролируемый расход токенов, вызов инструмента ИИ-агентом без права на это действие. В этой статье сделаем разбор реальной матрицы требований к LLM/AI Firewall. Цель статьи – не каталог фич, а карта того, что Заказчик считает обязательным, и как эти требования складываются в архитектуру контроля, где важны границы доверия, деньги, регуляторика и управляемость. За последний год сильно изменились требования крупных enterprise компании к защите генеративного ИИ. Сначала это был короткий перечень задач к «прокси для ChatGPT».