Пентест AI-компонентов: какие уязвимости искать и что с ними делать CISO

Я тимлид, который умеет нанимать, но не умеет искать работу. Поэтому я нанял для этого ИИ-агента: он живёт в моём браузере, мониторит вакансии, пишет сопроводительные письма и пинает меня по расписанию. Дневник первой недели эксперимента — что получилось, где агент сел в лужу и почему финальное «отправить» всё равно остаётся за человеком.

Недавно ко мне пришел начинающий дизайнер с неожиданным вопросом: стоит ли учить WordPress для создания сайтов с нуля? Поначалу я уходила от темы, предлагая посмотреть на что-то посвежее, типа Tilda или Webflow. Сравнивала с ситуацией в 2014, когда альтернатив собрать сайт без знания кода было немного. Но потом решилась. И сказала то, в чем сама себе боялась признаться: «Есть нешуточная вероятность, что нашей профессии скоро не будет». Почему тогда курсы до сих пор обещают легкий вход в индустрию, удаленную работу из любой точки мира, а лиды бигтехов зарабатывают на консультациях — и к ним идут? А потому что, по моим наблюдениям, индустрия раскололась на два лагеря. Они живут в параллельных вселенных, в одной из которых новички идут за советом к старшим, уверенным в своей незаменимости.

Голосовой бот на LLM разговаривает приятно, но на реальных звонках регулярно спотыкается. Он может найти свободное окно и так и не записать клиента или перебить человека, который просто задумался посреди фразы. Часть таких решений можно снять с LLM и отдать быстрой модели-классификатору. Самая обсуждаемая из них сейчас Jev от TypeSafe, и у нее уже появились открытые аналоги. Ниже разбираю, как Jev-подобные модели применяют в голосовых ботах другие команды, и сравниваю их кейсы с нашим опытом в Voximplant.