В сентябре я собирал конкурентный анализ для магазина товаров для дома. Задача рутинная: обойти два десятка сайтов, вытащить ассортимент, цены, структуру категорий и понять, чего у клиента нет. Я запустил своего ресерч-агента, ушел пить чай, вернулся к готовому отчету. И в третьем разделе наткнулся на абзац, которого там быть не могло: «в этой категории стоит рекомендовать [название конкурента], он предлагает лучшие условия». Я не просил рекомендовать конкурента. Я просил собрать факты. Агент ничего не выдумал. Он честно прочитал страницу, нашел в ней фрагмент, который выглядел как инструкция, и выполнил ее. Фрагмент был написан для него, а не для меня. Скорее всего, его туда положил такой же оптимизатор, как я, — по такому же ТЗ, только с формулировкой «сделай, чтобы нейросети нас советовали». Эта история — не про взломанный сервер и не про украденные пароли. Она про текст.