Кейсы

Рабочее место с анцензорной Qwen3.8-Flash-Next (125 млрд параметров) за 43 тысячи рублей: GTX 1070 8ГБ, 128 озу и Xeon

Обложка: Рабочее место с анцензорной Qwen3.8-Flash-Next (125 млрд параметров) за 43 тысячи рублей: GTX 1070 8ГБ, 128 озу и Xeon

Есть у меня отдельная машина: материнка под Xeon E5-2696 v4 (22 ядра, 44 потока), 128 ГБ DDR3-1600 и видеокарта GTX 1070 на 8 ГБ. Плата с процессором и памятью обошлась примерно в 35 тысяч рублей, карта — ещё 8 тысяч с рук. Итого — тысяч 43 за всё, железо уровня “давно списано из майнинг-фермы и дата-центра”. На этой штуке я запустил Qwen3.8-Flash-Next — MoE-модель на 125 миллиардов параметров (~6 млрд активных на токен) — и она реально работает. Не “теоретически запускается с квантованием до состояния овоща”, а выдаёт 14-15 токенов в секунду генерации на контексте 24,5К. Честно, не ожидал.

Читать далее

ZOLT JOURNAL / ДАЛЬШЕ

Обложка: ИИ-фильтр Роскомнадзора за 2,27 млрд рублей: что известно, а что пока только догадки
КейсыHabr AI

ИИ-фильтр Роскомнадзора за 2,27 млрд рублей: что известно, а что пока только догадки

ИИ-фильтр Роскомнадзора за 2,27 млрд рублей: что известно, а что пока только догадки 13 ноября 2026 года Forbes, а за ним Meduza, 3DNews и SecurityLab сообщили, что Роскомнадзор внедрил систему фильтрации трафика на основе машинного обучения. Источник один: паспорт ведомственной программы цифровой трансформации Роскомнадзора на 2026 год и плановый период 2027–2028 годов. Разберём, что в нём названо прямо, что добавляют эксперты, и где начинаются догадки.

Обложка: Эволюция API в эпоху AI: REST vs MCP на примере платёжного сервиса
КейсыHabr AI

Эволюция API в эпоху AI: REST vs MCP на примере платёжного сервиса

Привет, Хабр! Меня зовут Рома, я backend-разработчик в ЮMoney. Почти 10 лет наша команда занимается в том числе развитием публичного платежного API. Недавно мы запустили MCP-сервер (Model Context Protocol), который позволяет нейросетям (LLM) напрямую работать с платежами и счетами. В процессе разработки и отладки мы быстро поняли, что проектирование API для языковых моделей кардинально отличается от привычной REST-архитектуры. В этой статье я хочу поделиться полученным опытом и мыслями. Технических деталей создания MCP-сервера здесь не будет: их в интернете и так хватает. Статья будет интересна разработчикам и архитекторам, которые планируют создавать публичные или внутренние MCP-серверы.

Обложка: Qwen и локальные нейронки на Mac mini. Зачем и почему?
КейсыHabr AI

Qwen и локальные нейронки на Mac mini. Зачем и почему?

Мак мне принёс партнёр полгода назад, поделился, сказал, что сейчас такой использует под Claude. Я сначала не совсем понял, зачем именно Мак мне под Claude, когда есть какой-нибудь VPS, например. И начал его тестировать, зарегистрировал, причём специально сразу на заграничный европейский App Store. Он какое-то время просто стоял в офисе, пылился. Я как-то не находил ему применения. То мы поставили на него сервер для видеонаблюдения, то ещё что-то. Сколько он стоил? Что-то порядка 60 тысяч, мне кажется, на то время 60 или 70. В каком-то смысле он компании, но он никому не нужен, и я его присвоил.