AI-агенты

Хотел поручить AI целый проект. Уперся в изоляцию, память и восстановление после сбоев

Обложка: Хотел поручить AI целый проект. Уперся в изоляцию, память и восстановление после сбоев

Что пришлось проверить, прежде чем доверять системе самостоятельную работу над программным проектом. Хотел построить систему, способную самостоятельно вести программный проект от идеи до работающего продукта с помощью AI‑агентов. Но первые инженерные эксперименты показали, что генерация кода далеко не самая сложная часть задачи. В статье рассказываю о разработке Yggdrasil: почему ограничения файловой системы не гарантируют защиту данных, какие проблемы остаются после изоляции в VM, почему лимиты памяти не обеспечивают жестких гарантий для хоста и как восстанавливать выполнение после сбоев без риска повторить уже совершенные действия. Разбираю реальные результаты испытаний, включая проваленные проверки, принятые архитектурные решения и ограничения, которые пока не удалось устранить.

Читать далее

ZOLT JOURNAL / ДАЛЬШЕ

Обложка: Когда пользователь медсервиса — ИИ-агент
AI-агентыHabr AI

Когда пользователь медсервиса — ИИ-агент

За одну неделю: Gemini получил право записывать людей к врачу, семья из Сиэтла подала иск к OpenAI за советы ChatGPT, а нейросети, как выяснилось, рекомендуют из пяти лекарств одно — то, у которого лучше SEO. Разбираю, что обязано появиться в интерфейсах сервисов про здоровье и как это проверять — по правилу, которым медицинские лаборатории живут каждое утро.

Обложка: HuggingFace для начинающих: как выбрать и запустить модель
AI-агентыHabr AI

HuggingFace для начинающих: как выбрать и запустить модель

Если вы интересуетесь темой ИИ и данных, то наверняка встречались с таким сервисом как HuggingFace - платформы и сообщества для разработчиков в сфере ИИ, этаким GitHub для ИИ. Она предоставляет централизованный и удобный хаб для обмена, поиска и совместной работы над открытыми моделями машинного обучения, наборами данных и приложениями. Но она, мягко говоря, не самая удобная для пользователей, сразу понять как работать с сложным интерфейсом бывает сложно. Видишь 800 тысяч моделей, и чувствуешь примерно то же, что человек, который попал впервые на московский оптовый рынок в 1990е - все есть, ничего не понять, все смотрят тебя как на добычу, а с чего начать - нигде не написано. Через двадцать минут ты либо скачал не те датасеты, либо забросил это гиблое дело. Проблема даже не в том, что HuggingFace сложный, тут больше нюанс что он требует уже понимать и знать платформу.

Обложка: Q&A: Где заканчивается ИИ и начинается человек
AI-агентыHabr AI

Q&A: Где заканчивается ИИ и начинается человек

Что такое ИИ-грамотность, почему люди начинают пользоваться чат-ботами, может ли ИИ собрать опыт сотрудников и где без эксперта-человека не обойтись. Разбор 27 научных работ простым языком.