AI-агенты

Ankyra: нейро-символический движок, который честно говорит «не знаю»

ZOLT®AI / NEWS

Все, кто работал с большими языковыми моделями, так или иначе сталкивались с проблемой галлюцинаций. Как бы хорошо ни была обучена модель, она может выдать утверждение, которого нет ни в тексте, ни в реальности. В силу вероятностной природы своих рассуждений модель не различает «это было в источнике» и «это я достроила». И проблема даже не в том, что такие изобретения случаются, а в том, что они выглядят правдоподобно. Обнаружить подделку может только эксперт — и то лишь в ходе тщательной проверки. Существует немало техник, улучшающих способность моделей к рассуждению: chain-of-thought, self-consistency, tree-of-thought и другие. Однако ни одна из них не даёт гарантии корректности. Это не недостаток конкретных моделей, а прямое следствие метода их построения: модель не учится рассуждать, она представляет собой снимок того, как люди рассуждают в текстах.

Читать далее

ZOLT JOURNAL / ДАЛЬШЕ

Обложка: Как стартап пытается пустить микробизнес в интернет в обход разработчика
AI-агентыHabr AI

Как стартап пытается пустить микробизнес в интернет в обход разработчика

В этой статье расскажу про стартап AIruntime - сервис генерации сайтов или Telegram-ботов из чата с ИИ. На примере сервиса отлично видны грабли AI-driven разработки - стартапу пришлось столкнуться и с отсутствием гарантий результата, и с вопросами безопасности, и с бесконечными циклами проверки. По техничеке здесь все решаемо, и история AIruntime как раз пример того, как через новые инструменты можно решить массу проблем. Но интересно как встретит такой сервис тот самый микробизнес.

AI-агентыHabr AI

Как среднему и крупному бизнесу выстроить мультимодельные AI-пайплайны через один ключ

Компании среднего и крупного размера уже не спорят, нужны ли языковые модели в операционке. Спорят о другом: с каким вендором заключать договор, какую модель выбрать «на всех» и как объяснить совету директоров, почему за один и тот же контур в этом месяце счёт в три раза больше, чем в прошлом. На практике узкое место чаще не в качестве модели, а в том, что компания пытается решить несколько разных задач одним инструментом и одним контрактом.

Обложка: У Anthropic появились виртуальные сотрудники, которые работают в 6 раз больше людей: а что стало с людьми?
AI-агентыHabr AI

У Anthropic появились виртуальные сотрудники, которые работают в 6 раз больше людей: а что стало с людьми?

Пару месяцев назад на Хабре вышла статья, где мой коллега разбирал, почему ИИ пока не видно в статистике производительности и как это должны исправить виртуальные сотрудники. Теория выглядела складно. В ней один разработчик управляет роем агентов, благодаря которым издержки на координацию падают, а человек выходит из бесконечной цепочки проверок. О таких виртуальных сотрудниках сейчас много говорят и аналитики Gartner, и HR-директора, правда, чаще всего в виде прогнозов. Anthropic же пошла другим путем и 16 октября опубликовала отчет о том, как эта теория работает у нее самой на практике. Рой агентов действительно появился. Но что в этом новом мире стало с людьми и нужны ли теперь будут джуны? Давайте искать на это ответы. В статье разберемся в нюансах отчета и заодно выясним, что из этого может пригодиться бизнесу, который только собирается нанимать «виртуальных сотрудников».