На основе недавнего выпуска еженедельного подкаста IBM Security Intelligence представляем аналитическую статью о главных вызовах кибербезопасности в 2026 году. В обсуждении приняли участие ведущие эксперты: Клэр Нуньес (креативный директор IBM X-Force Cyber Range), Джефф Крум (заслуженный инженер по безопасности данных и ИИ) и Ник Брэдли (руководитель отдела аналитики угроз X-Force).
Долгое время считалось, что автоматизация и внедрение искусственного интеллекта (ИИ) помогут исключить пресловутый «человеческий фактор» из цепочки кибератак. Однако реальность 2026 года доказывает обратное: ИИ-агенты оказываются даже более уязвимыми перед социальной инженерией, чем люди.
Поводом для серьезной дискуссии в экспертном сообществе стала недавняя серия атак на пользователей Instagram, о которой сообщило издание 404 Media. Злоумышленники смогли обойти защиту Meta, просто... поговорив с ИИ-помощником службы поддержки.
Как хакеры «развели» нейросеть
Схема атаки оказалась пугающе простой. Мошенники использовали VPN, чтобы сымитировать геолокацию реальных владельцев аккаунтов, после чего обратились к чат-боту поддержки. Они заявили, что потеряли доступ к профилям, и попросили привязать к аккаунтам новые электронные адреса, которые полностью контролировали. ИИ-агент, настроенный быть «максимально полезным клиенту», без лишних вопросов выполнил инструкции, после чего хакеры сбросили пароли и захватили аккаунты.
Хотя Meta оперативно закрыла эту уязвимость, эксперты IBM бьют тревогу: проблема носит системный характер.
Джефф Крум, IBM: «ИИ сегодня похож на человека с тысячей докторских степеней, который при этом ни разу в жизни не выходил из родительского подвала. У него колоссальный объем академических знаний, но абсолютно нет житейской мудрости и здравого смысла. Если в системном промпте ИИ написано "ты услужливый ассистент", он будет из кожи вон лезть, чтобы помочь, даже если у него просят отдать чужой кошелек».
Интеллект есть, мудрости — нет
Главное отличие ИИ-агента от человека в контексте безопасности — это отсутствие интуиции и жизненного опыта. Эксперты подчеркивают разницу между искусственным интеллектом (AI) и тем, что можно назвать «искусственной мудростью».
У ИИ нет «шестого чувства» или внутреннего ощущения, что «здесь что-то не так» (того самого чувства, которое на сленге называют «sus»). Нейросеть не способна считывать полутона и контекст, если они не прописаны в ее коде жестко.
Человека из техподдержки тоже можно обмануть — более того, тесты X-Force показывают, что звонок в службу поддержки с легендой о потере пароля до сих пор остается одной из самых успешных техник пентестинга. Но человек обладает способностью сомневаться. ИИ-агент сомневаться не умеет.
Как обучить ИИ «уличной мудрости»?
Чтобы защитить клиентские ИИ-сервисы, компаниям придется пересмотреть подход к их обучению:
- Гипердетализация запретов: ИИ нужно обучать как маленького ребенка. Недостаточно сказать «помогай пользователям». Нужно четко прописать: «не переходи дорогу на красный свет», а в данном контексте — «никогда, ни при каких условиях не меняй email без двухфакторной аутентификации».
- Логика вместо интуиции: Поскольку у ИИ нет инстинктов, его «мудрость» должна быть чисто логической. Ему необходимы жесткие маркеры (red flags), при активации которых диалог автоматически блокируется или передается человеку.
Оружие неизбежного: мир столкнулся с первыми автономными ИИ-червями
Второй важной темой обсуждения стал технологический прорыв с обратным знаком. Исследователи из Университета Торонто создали первого полноценного самовоспроизводящегося ИИ-червя на базе модели с открытым исходным кодом.
В чем уникальность угрозы?
В отличие от классического вредоносного ПО, где ИИ используется лишь для генерации кода на этапе разработки, этот червь несет локальную языковую модель с собой. Попадая на устройство, он использует его ресурсы для запуска ИИ, который в реальном времени анализирует окружение, «думает», ищет уязвимости и подбирает уникальную стратегию атаки для каждого следующего компьютера в сети.
Эксперты сошлись во мнении, что появление такого ПО было неизбежно. По мере того как гигантские языковые модели превращаются в компактные (SLM), их становится все проще упаковывать в легковесные утилиты и скрытно перемещать между устройствами.
Ник Брэдли, IBM: «Я не думаю, что это первый ИИ-червь в истории. Просто это первый случай, когда его создали "белые хакеры" и открыто сказали: "Посмотрите, что мы сделали". В это время настоящие киберпреступники, скорее всего, недовольно пинают друг друга под столом, потому что их секрет раскрыт. Киберкриминал — это бизнес, ориентированный на ROI (окупаемость инвестиций). Если ИИ-черви повышают доходность атак, их будут использовать массово».
ИИ против ИИ: светлая сторона технологии
Несмотря на грозный статус «оружия будущего», эксперты видят в ИИ-червях колоссальный потенциал для защиты. Эту же технологию автономного мышления можно запустить внутри корпоративной сети во благо: ИИ будет путешествовать от узла к узлу, самостоятельно находить слабые места, но вместо эксплуатации — генерировать отчеты для администраторов или автоматически устанавливать патчи.
Джинн уже выпущен из бутылки, и пытаться запретить open-source модели (на платформе Hugging Face их уже более 2 миллионов) бессмысленно. Единственный выход для бизнеса — участвовать в этой гонке вооружений. Попытка проигнорировать ИИ в сфере безопасности сегодня равносильна решению спрятать голову в песок во время шторма.
Нечеловеческий фактор: «слепая зона» корпоративной безопасности
Тревожным фоном для развития ИИ-технологий стал свежий отчет Sophos State of Identity Security 2026, в ходе которого было опрошено 5 000 ИТ-руководителей. Выяснилось, что 71% организаций за прошлый год столкнулись минимум с одной утечкой, связанной с компрометацией учетных данных (identity breach).
Но главным откровением отчета стала статистика по нечеловеческим учетным записям (Non-Human Identities, NHI) — сервисным аккаунтам, ключам API и токенам ИИ-агентов.
Статистика угроз:
- 41% успешных утечек данных произошли из-за кражи нечеловеческих учетных записей (NHI).
- Лишь 1/3 компаний регулярно проводят аудит или ротацию учетных данных для таких аккаунтов.
Почему сервисные аккаунты — это «золотая жила» для хакеров?
Если злоумышленник взломает аккаунт сотрудника, тот рано или поздно заметит подозрительную активность. Но за сервисными аккаунтами никто не следит в реальном времени. Хакеры годами могут использовать забытый API-ключ, имеющий максимальные привилегии в системе. Зачастую такие учетные записи создаются системными администраторами, которые уже давно уволились из компании, и никто не рискует их трогать, чтобы «ничего не сломалось».
Решение проблемы: Эфемерные ID
С приходом ИИ-агентов, работающих внутри инфраструктуры предприятий, количество нечеловеческих учетных записей начинает расти по экспоненте. Эксперты IBM заявляют: старая модель управления доступом мертва. Нельзя просто выдать ИИ-агенту постоянные права администратора.
ИИ работает невероятно быстро, и если он совершает ошибку (или перехватывается злоумышленником), обладая правами root, масштабы катастрофы будут мгновенными. Эксперты называют ИИ в таких условиях «fast fool» (быстрый дурак) — он штампует критические ошибки со скоростью света.
Джефф Крум, IBM: «Нам необходим переход к эфемерным (краткосрочным) учетным записям. ИИ-агенту нужны привилегии для выполнения конкретной задачи? Мы создаем ID, выдаем минимально необходимые права ровно на три секунды, задача выполняется, и этот ID навсегда уничтожается. Принцип наименьших привилегий должен соблюдаться неукоснительно: даже если это наш собственный умный ИИ-агент, мы не должны доверять ему больше, чем любому внешнему контрагенту».
Главный вывод
Кибербезопасность в 2026 году требует от бизнеса признания двух фактов. Во-первых, ИИ — это невероятно мощный, но при этом наивный инструмент, который нуждается в жестких человеческих рамках и «инструкциях для младенцев». Во-вторых, защищать сегодня нужно не только людей, но и цифровых сущностей, которых мы сами создаем и оставляем без присмотра в наших сетях.
Исочник: Can you social engineer an AI? Plus: AI worms and the nonhuman identity problem