AI-агент с доступом к базе: как не дать ему лишнего

Типовая ситуация 2026 года: компания подключила ИИ-агента к CRM, чтобы тот автоматически чистил дубликаты контактов. Агент ошибся в классификации, посчитал половину клиентской базы «дублями» и удалил её. Без хакерской атаки, без злого умысла со стороны разработчика — просто автономное исполнение ошибочного вывода модели. Кто виноват? Разработчик модели, интегратор, который собрал агента, или сама компания, которая его запустила? И главное — есть ли у кого-то из них страховой полис, который это покроет? Я изучила российскую законодательную базу по ИИ в части страхования и сравнила её с тем, как страхование ИИ-рисков устроено за рубежом.

М.Видео расширяет применение искусственного интеллекта в разработке программного обеспечения и операционных процессах. ИИ-инструменты уже помогают командам проверять программный код, готовить тестовые сценарии, обрабатывать товарные данные и анализировать обращения покупателей. Компания также развивает решения, которые позволят сотрудникам использовать ИИ в повседневных задачах, и готовит основу для создания корпоративной платформы с доступом к ИИ-помощникам. В разработке программного обеспечения искусственный интеллект применяется для предварительной проверки изменений кода. Система анализирует предлагаемые изменения и формирует комментарии для разработчиков. В отдельных командах ИИ-агенты также готовят тестовые сценарии, которые затем проверяют специалисты. В клиентском сервисе ИИ-агент помогает сотрудникам находить информацию в диалогах с покупателями и анализировать обращения.

Я тимлид, который умеет нанимать, но не умеет искать работу. Поэтому я нанял для этого ИИ-агента: он живёт в моём браузере, мониторит вакансии, пишет сопроводительные письма и пинает меня по расписанию. Дневник первой недели эксперимента — что получилось, где агент сел в лужу и почему финальное «отправить» всё равно остаётся за человеком.