AI-агенты

MTPLX против oMLX: одна модель, два сервера, разница в 3–6 раз

1 мин чтенияHabr AI
Обложка: MTPLX против oMLX: одна модель, два сервера, разница в 3–6 раз

Вторая часть. Первая — «Локальный агент для кода на Mac: MTPLX + pi + Qwen3.8-27B». В первой части я посадил кодового агента pi на локальную Qwen3.8-27B через MTPLX и прогнал сложную задачу в разных режимах размышлений. Осталось сомнение, которое MTPLX сам не снимает: сколько тут даёт его многотокенное предсказание (multi-token prediction, MTP), а сколько сработало бы на любой MLX-обвязке? Толчком стал разговор с ChatGPT. Я спросил, какой MLX-сервер поставить на MacBook Pro с M4 Max, и получил уверенный ответ: oMLX быстрее и качественнее остальных на таком железе. Звучало правдоподобно, проверить было интересно вдвойне. Я поставил oMLX, взял ту же модель и ту же задачу и повторил все те же режимы. Заодно отвечаю на вопросы из комментариев к первой части — про режим по умолчанию, шум вентиляторов и память. Итог короткий: совет не подтвердился.

Читать далее

ZOLT JOURNAL / ДАЛЬШЕ

Обложка: Рой ИИ-агентов без начальника: дал им доску задач, git и право писать себе инструменты
AI-агентыHabr AI

Рой ИИ-агентов без начальника: дал им доску задач, git и право писать себе инструменты

Схем взаимодействия агентов много, но чаще всего мультиагентную систему собирают как конвейер: «аналитик» передает «программисту», тот «тестировщику», а сверху сидит агент‑менеджер и решает, кто ходит следующим. Мне хотелось проверить другую схему. Что будет, если никакого менеджера нет? Агентам дается одна цель, общая доска задач, общая папка под git и возможность писать друг другу. Пусть сами решают, что делать. Так появился DreamTeam — опенсорс‑фреймворк на Python для самоорганизующегося роя агентов. Вы ставите цель, и на доске появляется одна‑единственная задача: «спланировать». Ее берет первый свободный агент, раскладывает работу на задачи, остальные разбирают их по мере появления. У агентов человеческие имена, вроде «Анна Смирнова» или «John Smith». Готовую работу принимает другой участник, а если проверять некому, то вы. Нужен инструмент, которого нет?

1 мин чтения
Обложка: Очумелые ручки с Чижиком, выпуск №1: как мы поселили KVN прямо в старый телевизор LG
AI-агентыHabr AI

Очумелые ручки с Чижиком, выпуск №1: как мы поселили KVN прямо в старый телевизор LG

Дома я постоянно что-нибудь мастерю, переделываю и пытаюсь заставить работать немного не так, как задумывал производитель. Где-то хочется оживить старое устройство, где-то - связать между собой две вещи, которые официально друг о друге ничего не знают, а иногда просто интересно проверить: «А что будет, если?» В последнее время почти во всех этих затеях мне помогает Чижик. Причем не в формате «спросил у чат-бота, получил пять общих советов и пошел разбираться сам». Мы вместе исследуем устройства, читаем логи, пишем небольшие программы, собираем приложения, проверяем гипотезы. Постепенно таких домашних историй накопилось достаточно много, и я решил ими делиться. Возможно, кто-то найдет здесь готовую идею для собственного дома. А кто-то просто поймет, что ChatGPT Codex можно применять не только для написания очередной функции в рабочем проекте. К истории

1 мин чтения
AI-агентыHabr AI

Мы думали, что с ИИ мы будем меньше работать

Агенты пишут код быстрее нас. Только работать мы почему-то стали больше, а не меньше. Я спросил знакомых, как у них дела через пару месяцев после начала работы с агентами, и почти никто не написал про скорость. Писали про ревью, усталость и то, что на свой проект сил уже нет. Это пройдёт или теперь так будет всегда?

1 мин чтения