AI-агенты

Как мы измеряем точность детекции ПДн: pii-bench, golden-выборка и честные метрики

Обложка: Как мы измеряем точность детекции ПДн: pii-bench, golden-выборка и честные метрики

Когда вендор защиты данных пишет на сайте «точность детекции 99%», возникает ровно один вопрос: как это измерено? Без методики цифра не значит ничего — «99%» может означать честный span-level F1 на внешнем бенчмарке, а может — «в 99 из 100 сообщений сканер что-то нашёл». Это разные вещи, и разница между ними — это пропущенные паспорта в проде. Мы делаем Pigard — прокси, который маскирует персональные данные до отправки в LLM, — и в этой статье показываем методику измерения точности целиком: внешний бенчмарк, собственная golden-выборка, разбор ошибок и честные цифры, включая неудобные. Конкурентов не называем и их заявленные метрики не цитируем — только собственные результаты и способ их получения, чтобы вы могли повторить то же самое с любым вендором, включая нас.

Читать далее

ZOLT JOURNAL / ДАЛЬШЕ

Обложка: Рой ИИ-агентов без начальника: дал им доску задач, git и право писать себе инструменты
AI-агентыHabr AI

Рой ИИ-агентов без начальника: дал им доску задач, git и право писать себе инструменты

Схем взаимодействия агентов много, но чаще всего мультиагентную систему собирают как конвейер: «аналитик» передает «программисту», тот «тестировщику», а сверху сидит агент‑менеджер и решает, кто ходит следующим. Мне хотелось проверить другую схему. Что будет, если никакого менеджера нет? Агентам дается одна цель, общая доска задач, общая папка под git и возможность писать друг другу. Пусть сами решают, что делать. Так появился DreamTeam — опенсорс‑фреймворк на Python для самоорганизующегося роя агентов. Вы ставите цель, и на доске появляется одна‑единственная задача: «спланировать». Ее берет первый свободный агент, раскладывает работу на задачи, остальные разбирают их по мере появления. У агентов человеческие имена, вроде «Анна Смирнова» или «John Smith». Готовую работу принимает другой участник, а если проверять некому, то вы. Нужен инструмент, которого нет?

Обложка: Очумелые ручки с Чижиком, выпуск №1: как мы поселили KVN прямо в старый телевизор LG
AI-агентыHabr AI

Очумелые ручки с Чижиком, выпуск №1: как мы поселили KVN прямо в старый телевизор LG

Дома я постоянно что-нибудь мастерю, переделываю и пытаюсь заставить работать немного не так, как задумывал производитель. Где-то хочется оживить старое устройство, где-то - связать между собой две вещи, которые официально друг о друге ничего не знают, а иногда просто интересно проверить: «А что будет, если?» В последнее время почти во всех этих затеях мне помогает Чижик. Причем не в формате «спросил у чат-бота, получил пять общих советов и пошел разбираться сам». Мы вместе исследуем устройства, читаем логи, пишем небольшие программы, собираем приложения, проверяем гипотезы. Постепенно таких домашних историй накопилось достаточно много, и я решил ими делиться. Возможно, кто-то найдет здесь готовую идею для собственного дома. А кто-то просто поймет, что ChatGPT Codex можно применять не только для написания очередной функции в рабочем проекте. К истории

AI-агентыHabr AI

Мы думали, что с ИИ мы будем меньше работать

Агенты пишут код быстрее нас. Только работать мы почему-то стали больше, а не меньше. Я спросил знакомых, как у них дела через пару месяцев после начала работы с агентами, и почти никто не написал про скорость. Писали про ревью, усталость и то, что на свой проект сил уже нет. Это пройдёт или теперь так будет всегда?