automation

Как я создавал персонального ассистента на домашнем железе

Кратко: Я собрал локального ИИ‑ассистента на базе двух видеокарт по 12 ГБ. Система объединяет языковую модель с RAG, графовой памятью, MCP инструментами, голосовым вводом/выводом и доступом к локальной инфраструктуре. Он обрабатывает документы, почту, календарь, Telegram, умный дом и рутинные рабочие процессы. Главный вывод: моделей на 9B–27B параметров уже вполне достаточно для задач такого класса. Локальная модель становится действительно полезной не тогда, когда догоняет облачные сервисы по «чистому интеллекту», а когда получает долговременную память, доступ к инструментам и возможность взаимодействовать с реальным окружением пользователя. В сезон свободного времени появилась идея создать персонального AI‑ассистента, заточённого под мои личные задачи и стиль общения.