Безопасность ИИ в продакшене: на что смотреть, прежде чем станет поздно

Привет, Хабр! Я Руслан Рахимов, занимаюсь воплощенным ИИ в отделе исследований Т-Технологий: на стыке восприятия, управления и симуляции. Сейчас я в основном работаю с роботами-манипуляторами, а до этого плотно занимался 3D-компьютерным зрением и защитил по нему кандидатскую. Например, в работе GSplatLoc мы с коллегами улучшали визуальную локализацию с помощью 3D Gaussian Splatting — чтобы робот по камере точно понимал, где находится. В статье рассказываю о чемпионате True Tech Champ 2026 и о том, как я готовил своего робота к участию. Делюсь опытом, как устроить цикл «из реальности в симулятор и обратно» (real2sim2real) и как решать, каким цифрам двойника верить, когда робота нет под рукой.

«Ростелеком» проводит тендерные процедуры, чтобы заполучить тысячи лицензий на систему управления видео Cluebase VMS и модули к ней для детекции людей, лиц, транспорта, БПЛА (беспилотных летательных аппаратов), QR-кодов, очередей и прочих объектов. ПО хотят использовать для расширения продуктового портфеля для клиентов. Систему разработала компания бывшего руководителя МФЦ Кабардино-Балкарии. Небольшой ИТ-разработчик продвигает свой продукт и на международных рынках, у владельца есть актив в Великобритании. После запроса CNews в Минцифры решили проверить включение ПО компании в реестр российского. В компании говорят, что уже прошли провекру в июле 2026 г.

С августа у меня работает скрипт, который задает нейронке вопросы так, как их задал бы мой клиент, и считает, называет ли она меня. Сейчас он делает это раз в месяц. Рассказываю, как это устроено, что показали замеры и почему популярные советы вроде llms.txt почти ничего не дают. 5 ноября я читал лекцию «Бренд, который выбирает нейронка» на площадке МосХаб.Сколково, в цикле экспертных вебинаров РАСО и НИУ ВШЭ для студентов рекламы и PR. Там была маркетинговая часть. Здесь техническая: как устроен замер и что пришлось в нем переделать по дороге.