Автоматизация

Безопасность ИИ-систем 2026. Часть 2: техники атак

1 мин чтенияHabr AI
Обложка: Безопасность ИИ-систем 2026. Часть 2: техники атак

Продолжаем цикл статей о безопасности ИИ-систем. В прошлый раз мы разобрали нормативную базу и методологии — что требуют регуляторы и какие фреймворки описывают угрозы и уязвимости. Теперь переходим к практической плоскости. Искусственный интеллект бывает разным: классические ML-алгоритмы, системы компьютерного зрения, рекомендательные алгоритмы, и у каждого класса свои уязвимости и техники атак. Но с 2023 года центр тяжести сместился в сторону больших языковых моделей: их внедряют в бизнес-процессы, к ним прикручивают руки, увеличивают автономность за счет агентности. Рост числа LLM-приложений идет быстрее, чем рост понимания их уязвимостей, поэтому в этой статье и в следующих мы фокусируемся именно на них. Атаки на классические ML-системы, хотя и схожи, имеют свою специфику и заслуживают отдельного материала.

Читать далее

ZOLT JOURNAL / ДАЛЬШЕ

Обложка: [Перевод] CLI против MCP: стоимость зависит от интерфейса доступа
АвтоматизацияHabr AI

[Перевод] CLI против MCP: стоимость зависит от интерфейса доступа

CLI в тестах оказался значительно дешевле готовых MCP‑серверов, но причина разницы оказалась сложнее, чем кажется. В статье разберём четыре способа подключения ИИ‑агентов к API, сравним их по стоимости, количеству вызовов и расходу токенов и выясним, как интерфейс доступа влияет на эффективность интеграции. Изучить эксперимент

1 мин чтения
Обложка: Сметчик завода считал КП целый рабочий день. Мы свели это к 30 секундам: почему ChatGPT тут бесполезен
АвтоматизацияHabr AI

Сметчик завода считал КП целый рабочий день. Мы свели это к 30 секундам: почему ChatGPT тут бесполезен

Снабженец строительного объекта отправляет ведомость металлопроката одновременно в 4-5 заводов и заказывает у того, кто первым прислал точный расчет. На производстве инженер-сметчик тратит от 4 до 8 часов на ручной перенос номенклатуры и сверку коэффициентов по бумажным справочникам ГОСТ. Популярная идея «скормить скан ведомости в ChatGPT» на реальном заказе ведет к прямому кассовому разрыву: при расчете партии швеллера 16П модель ошиблась в массе на 41% в минус, что дает 126 720 рублей чистого убытка на одной строке. В статье разбираем трехслойную архитектуру решения: как подружить нечеткий семантический парсинг сканов (OpenCV + Vision API) с детерминированным расчетным ядром на Python

1 мин чтения
АвтоматизацияCNews

«Софтлайн» отстоял тайну своих акционеров и не будет платить по долгам партнеров «АйТи»

Суд отказал Агентству по страхованию вкладов (АСВ) в раскрытии пайщиков ЗПИФ «Аксиома Капитал», являющегося контролирующим акционером «Софтлайна». В АСВ заподозрили, что активы ставшей банкротом группы «АйТи» перешли в «Софтлайн», владельцы которого не известны. Следом суд вообще исключил «Софтлайн» из данного процесса.

1 мин чтения