Как заставить модель gemma-4-12B-it QAT почти «летать» на ноутбучной RTX 2000 Ada, сохранив холод и тишину

Всем привет! Эта статья является третьей в серии статей про основы глубокого обучения. В прошлых двух частях я рассказал много интересного и полезного новичкам, так что рекомендую перечитать. В этой части мы разберём подробнее задачи связанные с обработкой естественного языка (NLP) и реализуем двухслойную нейронную сеть классификации текста.

Привет, Хабр! В апреле я рассказывал, как написал антиспам-бота для Telegram на собственной нейросети. Тогда у бота были две команды для админов, ручное переключение режимов и обещание «когда-нибудь сделать публичный дашборд». С тех пор прошло полгода. Бот всё так же бесплатный и всё так же пет-проект, который я допиливаю по вечерам. Но вокруг него наконец-то появилось нормальное окружение, а имеено сайт со статистикой, понятная инструкция и личный кабинет прямо в Telegram. Коротко для тех, кто не читал первую статью: TAB (Telegram Antispam Bot) — бот, который сам находит и удаляет спам в чатах. Сообщения проверяет LSTM-модель с механизмом внимания, обученная на моей же библиотеке LANCETNIC. Готовые модели с HF я не брал - хотелось сделать свою модель.

Вы когда-нибудь задумывались о том, можно ли использовать машинное обучение не только для слежки и бизнеса, но и для управления людьми? Можно ли получить власть не над телом, но над разумом человека и заставить его думать и желать, говорить и действовать так, как нужно манипулятору? Словно это были его собственные мысли и убеждения, которые он, разумеется, будет искренне защищать и оправдывать. Более того, будет готов понести реальные утраты (время, ресурсы, здоровье), попускаясь своей личной выгодой и настоящими интересами даже не осознавая этого. Кем бы вы ни были, скептиком или параноиком, специалистом или обывателем, я настоятельно прошу уделить статье немного вашего драгоценного времени. Если оно было потрачено зря, влепите ей минус, но прочтите. Это все о чем я вас прошу! В этой статья я изложу теорию управления субъектами и причем тут машинное обучение.