ai-assistants

Рэд‑флаг, который ИИ‑агент проигнорировал. Почему ИИ‑помощники могут пропускать вредоносный код?

Пока внимание приковано к тому, насколько хорошо ИИ ищет уязвимости, мало кто задаётся обратным вопросом: «Хорошо ли модели защищаются от вредоносного кода, который им подсовывают в виде «обычных» утилит?» Всем привет! Я Никита Беляевский, инженер в HiveTrace, и в этой статье мы разберем такой вопрос на примере Grok Build. Однако речь идёт не о конкретном продукте. Описанная схема основана не на особенностях реализации Grok Build, а на самой модели работы современных кодовых агентов. Если агент умеет пользоваться инструментами и у него есть права выполнять команды в системе, аналогичный сценарий возможен и для других решений.