Автоматизация

Поверхность атаки и AI Red Team: как смотреть на приложение глазами атакующего до релиза

1 мин чтенияHabr AI
Обложка: Поверхность атаки и AI Red Team: как смотреть на приложение глазами атакующего до релиза

Какие части приложения реально доступны атакующему и что произойдёт, если он доберётся до уязвимого участка? Поверхности атаки – это совокупность доступных извне интерфейсов, используемых технологий, API-методов, обработчиков и путей выполнения, через которые атакующий может воздействовать на приложение. Главное преимущество анализа поверхности атаки в том, что команда видит не только «что найдено», но и «что доступно», «каким путём» и «насколько это покрыто проверками». С появлением приложений на базе LLM добавился ещё один слой риска. У такой системы недостаточно проверить исходный код и инфраструктуру: нужно атаковать работающий AI-интерфейс, измерять устойчивость модели к нежелательным запросам, проверять качество ответов и отслеживать регрессии между версиями.

Читать далее

ZOLT JOURNAL / ДАЛЬШЕ

Обложка: [Перевод] CLI против MCP: стоимость зависит от интерфейса доступа
АвтоматизацияHabr AI

[Перевод] CLI против MCP: стоимость зависит от интерфейса доступа

CLI в тестах оказался значительно дешевле готовых MCP‑серверов, но причина разницы оказалась сложнее, чем кажется. В статье разберём четыре способа подключения ИИ‑агентов к API, сравним их по стоимости, количеству вызовов и расходу токенов и выясним, как интерфейс доступа влияет на эффективность интеграции. Изучить эксперимент

1 мин чтения
Обложка: Сметчик завода считал КП целый рабочий день. Мы свели это к 30 секундам: почему ChatGPT тут бесполезен
АвтоматизацияHabr AI

Сметчик завода считал КП целый рабочий день. Мы свели это к 30 секундам: почему ChatGPT тут бесполезен

Снабженец строительного объекта отправляет ведомость металлопроката одновременно в 4-5 заводов и заказывает у того, кто первым прислал точный расчет. На производстве инженер-сметчик тратит от 4 до 8 часов на ручной перенос номенклатуры и сверку коэффициентов по бумажным справочникам ГОСТ. Популярная идея «скормить скан ведомости в ChatGPT» на реальном заказе ведет к прямому кассовому разрыву: при расчете партии швеллера 16П модель ошиблась в массе на 41% в минус, что дает 126 720 рублей чистого убытка на одной строке. В статье разбираем трехслойную архитектуру решения: как подружить нечеткий семантический парсинг сканов (OpenCV + Vision API) с детерминированным расчетным ядром на Python

1 мин чтения
АвтоматизацияCNews

«Софтлайн» отстоял тайну своих акционеров и не будет платить по долгам партнеров «АйТи»

Суд отказал Агентству по страхованию вкладов (АСВ) в раскрытии пайщиков ЗПИФ «Аксиома Капитал», являющегося контролирующим акционером «Софтлайна». В АСВ заподозрили, что активы ставшей банкротом группы «АйТи» перешли в «Софтлайн», владельцы которого не известны. Следом суд вообще исключил «Софтлайн» из данного процесса.

1 мин чтения