ИИ — помощник или хулиган? Мнение эксперта — Радио Sputnik, 06.11.2026
ИИ
© iStock.comЧитать в ДзенМАКСВКонтактеЧем обнаруженные ИИ уязвимости опасны для рядового пользователя, в интервью радио Sputnik объяснил эксперт по корпоративным технологиям, ИИ и стратегической трансформации бизнеса Саян Доржиев.
Аналитики предупредили о стремительном сдувании «пузыря ИИ»Главная проблема в том, что ИИ-системы часто не различают, где заканчиваются «инструкции» и начинаются «данные». Злоумышленники научились встраивать скрытые команды в самые безобидные на вид материалы — письма, веб-страницы, документы, предупредил в интервью радио Sputnik эксперт по корпоративным технологиям, ИИ и стратегической трансформации бизнеса Саян Доржиев.«»Для человека это может выглядеть как обычная игра или странная головоломка на сайте. Но ИИ-агент воспринимает встроенные инструкции как часть задания и постепенно становится хулиганом. В ходе одного из экспериментов ИИ-браузеры даже не распознавали опасность и самостоятельно передавали злоумышленнику учетные данные пользователя», — рассказал Саян Доржиев.Вторая серьезная угроза — личные ИИ-ассистенты, которые работают вне корпоративного контроля.«»Чтобы приносить пользу, они требуют доступа к почте, мессенджерам и другим сервисам, а иногда и к банковским аккаунтам. При этом они действуют автономно, могут хранить пароли в открытом виде и обходить традиционные системы защиты, включая многофакторную аутентификацию. По сути, пользователь добровольно передает «ключи от королевства» программе, которая не всегда надежно защищена», — отмечает эксперт.По его словам, злоумышленники могут получить доступ к личным данным, паролям или банковским счетам и таких способов несколько.«»Кража учетных данных через ИИ-ассистентов. Bank of America официально предупредил клиентов: не делитесь логинами и паролями от банковских счетов с ИИ-помощниками. Если у такого помощника есть уязвимость, учетные данные могут утечь, и хакер получит доступ к счету. Более того, если пользователь сам передал данные ИИ-инструменту, ответственность за возможные действия часто ложится на него», — отметил Доржиев.Также возможно извлечение данных через prompt injection, продолжил эксперт.«»Скрытые команды могут заставить ИИ-агента выдать API-ключи, пароли или финансовую информацию. Например, вредоносные комментарии в HTML-коде или подмененные метаданные могут подтолкнуть финансового бота к одобрению мошеннических транзакций», — сказал Саян Доржиев.Кроме этого, злоумышленники могут использовать дипфейки и целевой фишинг.«»Генеративный ИИ позволяет создавать убедительные поддельные голоса и видео. По данным Банка России, дипфейки остаются одной из ключевых угроз, и мошенники используют их, чтобы войти в доверие и убедить человека расстаться с деньгами. Только за первые пять месяцев 2026 года с помощью дипфейков у россиян украли не менее 2 млрд рублей», — уточнил Саян Доржиев.Утечка возможна и через чат-боты.«»Клиентские ИИ-боты, если их скомпрометировать, могут постепенно «вытягивать» персональные данные, пароли и финансовую информацию из диалогов с пользователями», — пояснил он.Эксперт дал рекомендации, как защитить себя.«»Менять пароли «на всякий случай» — не самая эффективная стратегия. Гораздо важнее изменить привычки обращения с ИИ и финансовыми данными. Вот конкретные шаги. Никогда не передавайте пароли и коды подтверждения ИИ-ассистентам, чат-ботам или «умным» расширениям браузера. Для банковских операций используйте только официальное приложение банка. Включите многофакторную аутентификацию (MFA) везде, где это возможно, особенно на финансовых и почтовых сервисах. Относитесь с подозрением к любой срочности. Договоритесь с близкими о кодовом слове, которое нейросеть не сможет подделать, и используйте его для проверки в голосовых сообщениях», — советует Доржиев.По его мнению, для онлайн-покупок по возможности лучше использовать кредитную карту с защитой от мошенничества, а не дебетовую, это ограничит потенциальный ущерб. Кроме этого, не стоит хранить голосовые и видео с личными просьбами в открытом доступе — они могут стать материалом для обучения дипфейков, добавил эксперт.Саян Доржиев объяснил, что делать с ИИ-инструментами.«»Не используйте личные ИИ-ассистенты для рабочих задач или для взаимодействия с банковскими счетами. Они работают вне корпоративного мониторинга и могут незаметно раскрыть ваши данные. Не загружайте в потребительские чат-боты финансовые документы, выписки и другие чувствительные файлы. Отключите «агентный режим» в ИИ-браузере, если вы им не пользуетесь прямо сейчас. Это снижает риск, что вредоносная страница заставит агента выполнить действия от вашего имени», — считает Доржиев.По его мнению, полностью отказываться онлайн-покупок не требуется.«»Разумнее не передавать ИИ-агентам право самостоятельно оплачивать покупки. ИИ может помочь сравнить цены и найти товар, но финальное решение и ввод платежных данных лучше оставить за собой. И помните, если от вас требуют срочных действий, это почти всегда мошенники», — заключил Саян Доржиев.Радио Sputnik в MAX. Подписывайтесь!👉🏻 https://max.ru/radio_sputnik
