Кейсы

Передать данные ИИ и не унести их во внешний интернет: опыт ЕДИНОГО ЦУПИСа во внедрении Shtab AI

1 мин чтенияHabr AI
Обложка: Передать данные ИИ и не унести их во внешний интернет: опыт ЕДИНОГО ЦУПИСа во внедрении Shtab AI

За годы работы с данными компании научились хранить и использовать их так, чтобы не выпускать наружу. По крайней мере, некоторые. Но ИИ подкинул новые вызовы. С одной стороны, без него уже никуда, с другой — если передавать внешней модели данные без защиты, это может обернуться катастрофой. Так что внедрять ИИ в бизнес нужно с умом. А как — расскажем на примере успешного кейса финансовой компании. Передаем слово спикеру. Всем добрый день! Меня зовут Борис Кузнецов, я руководитель Управления стратегических проектов в ЕДИНОМ ЦУПИС. Мы уже больше года используем таск-трекер Shtab в закрытом контуре, а недавно внедрили Shtab AI, чтобы оптимизировать работу с задачами и информацией. Хотим поделиться опытом использования инструмента: как пришли к его необходимости, как внедряли и что учли, чтобы чувствительные данные компании не выходили наружу

Читать далее

ZOLT JOURNAL / ДАЛЬШЕ

Обложка: Хаос как сервис: как мы в Авито проверяем устойчивость в проде и подключаем к этому LLM
КейсыHabr AI

Хаос как сервис: как мы в Авито проверяем устойчивость в проде и подключаем к этому LLM

Привет! Меня зовут Илья Садыков, я работаю в команде TestOps в PaaS Авито. Мы отвечаем за инструментарий хаос-тестирования — подхода, при котором в систему намеренно внедряются сбои для её проверки. В этой статье я покажу карту нашего хаос-ландшафта, расскажу, зачем нам собственный оркестратор, и подробно разберу, как во всё это встроена LLM. Рассмотрим кейсы от автоматического разбора прошлых инцидентов (LSR) до генерации AI-conclusion по конкретным экспериментам. Все архитектурные решения, о которых расскажу в статье, — из нашего реального продакшена.

1 мин чтения
Обложка: Как приручить LLM-дракона. Архитектура корпоративного AI-шлюза и ограничения классических прокси в работе с нейросетями
КейсыHabr AI

Как приручить LLM-дракона. Архитектура корпоративного AI-шлюза и ограничения классических прокси в работе с нейросетями

Первый шаг при стихийном внедрении нейросетей — закрыть прямой доступ наружу и направить запросы через привычный корпоративный прокси. Однако у генеративного ИИ иная специфика: стандартные прокси не умеют выявлять конфиденциальные данные в ответах моделей, не видят утечек в промптах и не защищают от перерасхода токенов. Под катом — первая часть цикла о создании корпоративного AI-шлюза: почему классические балансировщики не рассчитаны на работу с LLM, как устроена специализированная архитектура и как платформа AI Оптимум обеспечивает контроль контекста, прозрачный учет токенов и безопасность данных. Кат

1 мин чтения
КейсыCNews

Минцифры получит полномочия координировать внедрение ИИ в России

Проектом изменений в постановление Правительства, которое будет рассмотрено на ближайшем его заседании, предусмотрено наделение Минцифры России функциями по координации всех мероприятий по внедрению технологий искусственного интеллекта. Государство тратит на эти цели десятки миллиардов рублей. Отечественный ИИ-рынок растет в два раза быстрее рынка ИТ в целом.

1 мин чтения