Как проверить, что память ИИ-агента работает, а не просто «есть»: методика за один вечер

Недавние истории с блокировками от Anthropic заставили меня всерьез задуматься, как я буду работать, если и мой аккаунт отлетит в бан. В мгновение я поймал себя на мысли, насколько сильно изменилась моя инженерная профессия. Прошло всего около года, но я уже вспоминаю прежний уклад своей деятельности, как что-то очень далекое из прошлой жизни. Но самое главное в другом: я осознал, что меня пугает возврат назад... и вот почему

Даже проверка обычных символов может стать узким местом в обработке текста для языковых моделей. При профилировании bert-base-uncased выяснилось, что на нормализацию уходило 88% времени токенизации. В статье разбираемся, как SIMD‑инструкции, кеширование Unicode и пропуск лишних операций помогли ускорить обработку примерно в 50 раз, почему на разных языках результаты отличаются и где у такого подхода есть ограничения. Разобрать оптимизацию

В июле я рассказал, как искал себе читалку для книг на иностранном языке и в итоге родился TBook формат. Половина той статьи была о том, как заставить дешёвые LLM выдавать такое выравнивание без позиционного дрейфа. С тех пор прошло четыре месяца. Приложение вышло в Google Play, появилась десктопная читалка для трёх ОС, офлайн-словари, онлайн-конвертер с общей библиотекой и Telegram-ботом, GUI-конвертер с готовыми бинарями, два десятка отчётов об экспериментах с качеством перевода — и главное, вторая версия формата.