AI-агенты

NER для юристов, у которых нет A100: как мы догнали Ministral 14B моделью почти в 10 раз меньше

1 мин чтенияHabr ML
Обложка: NER для юристов, у которых нет A100: как мы догнали Ministral 14B моделью почти в 10 раз меньше

Юристы не могут отправлять материалы дел во внешние API, а держать A100 только ради разбора документов дорого. Мы обучили Qwen2.5-1.5B извлекать сущности из судебных документов почти на уровне Ministral 3 14B: макро-F1 0.70 против 0.71 на 145 реальных документах. При этом на A5000 наша модель разбирает документ в 2.2 раза быстрее, чем Ministral на A100. По дороге модель научилась молчать о самом важном: в 94% случаев отвечала, что переписки в документе нет, и формально была права. Рассказываем, почему балансировка классов синтетикой не сдвинула F1 и что сработало вместо неё.

Читать далее

ZOLT JOURNAL / ДАЛЬШЕ

Обложка: AnythingLLM: чат по своим документам без подписки OpenAI
AI-агентыHabr AI

AnythingLLM: чат по своим документам без подписки OpenAI

Представьте, что у вас на диске лежит папка с договорами, сотня PDF, конспекты и внутренняя документация. Вы открываете ChatGPT, загружаете один файл — он его читает, но стоит загрузить больше, контекст переполняется, или просто теряется файл. А если файлов десять? Двадцать? Подписка стоит денег, из России нужен VPN, и даже с ним модель не знает, что написано в ваших таблицах, если вы не скормите ей всё вручную. Вот тут и появляется AnythingLLM — опенсорсное приложение, которое превращает ваши файлы в базу знаний и позволяет общаться с ними через любую LLM. Хотите локально и бесплатно на своей видеокарте? Пожалуйста. Хотите через облачную модель, но без подписки OpenAI и танцев с бубном? Тоже вариант, и ниже мы разберём его по шагам. Эта статья — про то, как за вечер собрать приватного ассистента, который отвечает по вашим документам. С блекджеком и RAG!

1 мин чтения
AI-агентыCNews

Tera и Sentra объявили о партнерстве: в портфеле дистрибьютора появился автономный «AI-хакер» для непрерывной проверки защищенности бизнеса

Tera IT Distributor и российский разработчик AI-native-продуктов кибербезопасности Sentra подписали дистрибьюторское соглашение....

1 мин чтения
Обложка: AI Assisted Development или как не убить кучу времени на код-ревью агентов
AI-агентыHabr AI

AI Assisted Development или как не убить кучу времени на код-ревью агентов

Новый поиск и индекс для нашего ИИ-ассистента мы написали за три дня вместе с Claude Code. А чтобы кто-то в команде смог за этот код отвечать, понадобилось ещё три недели. Разбираемся, куда ушло это время, чем ревью отличается от принятия кода на сопровождение и как теперь принимаем большие агентные задачи по частям.

1 мин чтения