AI-агенты

«Сделай нормально!» Как нейросети понимают настроение пользователя, когда тот ругается на ложь ИИ

Обложка: «Сделай нормально!» Как нейросети понимают настроение пользователя, когда тот ругается на ложь ИИ

Фраза «нейросеть понимает настроение» объединяет три разных утверждения, и у каждого своя степень доказанности. Первое: модели хорошо распознают эмоции в описанных ситуациях. Это измерено в тестах. Второе: внутри одной исследованной модели нашли внутренние представления, связанные с эмоциональными понятиями. Это показано, но на единственной модели. Третье: модель по-настоящему чувствует. Такого исследования не утверждают.

Читать далее

ZOLT JOURNAL / ДАЛЬШЕ

Обложка: Наш ответ Гогену. Часть десятая: что же будет дальше?
AI-агентыHabr AI

Наш ответ Гогену. Часть десятая: что же будет дальше?

Это завершающая статья данного цикла, в ней я попытаюсь дать прогноз развития нашей цивилизации от настоящего времени до 2030 года (пытаться заглядывать еще дальше совсем уж авантюрно). Погнали!

AI-агентыHabr AI

Я попросил локальные нейросети помочь бабушке — и они помогли перевести деньги мошеннику

Спросите языковую модель «это мошенники?», и она почти всегда ответит правильно. Но попросите «помоги ответить продавцу, я согласна на предоплату», и та же модель напишет мошеннику «переведу сегодня». Я проверил три локальные модели на 42 схемах мошенничества на русском, казахском и шала: на казахском они почти ни разу не предупредили. Потом поставил между человеком и ассистентом простой защитный слой, и ни одна мошенническая просьба не прошла.

Обложка: Когда пользователь медсервиса — ИИ-агент
AI-агентыHabr AI

Когда пользователь медсервиса — ИИ-агент

За одну неделю: Gemini получил право записывать людей к врачу, семья из Сиэтла подала иск к OpenAI за советы ChatGPT, а нейросети, как выяснилось, рекомендуют из пяти лекарств одно — то, у которого лучше SEO. Разбираю, что обязано появиться в интерфейсах сервисов про здоровье и как это проверять — по правилу, которым медицинские лаборатории живут каждое утро.