В недавнем выпуске подкаста IBM Security Intelligence эксперты обсудили «LLMjacking» — новую тактику хакеров, нацеленную не на кражу данных, а на захват ваших вычислительных мощностей и API-ключей для ИИ. В мире, где доступ к мощным языковым моделям стоит дорого, злоумышленники нашли способ переложить эти расходы на плечи организаций.
1. Что такое LLMjacking?
LLMjacking — это кража учетных данных и API-ключей для доступа к облачным сервисам ИИ (таким как OpenAI, Google Gemini или Anthropic).
- Цель: Использование чужих ресурсов для обучения своих моделей, проведения исследований или создания кибероружия.
- Последствия: Огромные счета. В одном из случаев, упомянутых в подкасте, стартап получил счет на $82,000 за 48 часов, хотя их обычный месячный бюджет составлял всего $180.
- Эволюция: Если в 2000-х хакеры взламывали ПК ради контроля, а в 2010-х — для майнинга криптовалют, то в 2020-х они воруют «интеллект» (LLM) за ваш счет.
2. API-ключи — это «алмазный фонд» компании
Мишель Альварес из IBM X-Force подчеркивает: API-ключи должны защищаться так же строго, как и главные пароли администратора.
Основные риски:
- Отсутствие лимитов: Хакеры действуют настолько быстро, что успевают потратить десятки тысяч долларов до того, как сработают стандартные уведомления о превышении лимита.
- Скрытая угроза: Украденный ключ дает злоумышленнику легитимный доступ. Он может использовать модель для обхода фильтров безопасности («джейлбрейка»), прикрываясь вашим именем.
- Доступ к данным: Если API интегрирован во внутренние системы, хакер может получить доступ к корпоративной информации через запросы к модели.
3. Человек в петле: Симуляция атак в эпоху ИИ
Патрик Фейсел (X-Force Red) отмечает, что злоумышленники уже используют ИИ для ускорения всех фаз атаки. Однако это не значит, что защитой должен заниматься только компьютер.
«ИИ хорош настолько, насколько хорош человек, который им управляет».
Эксперты выделили три роли человека в этой цепочке:
- Контроль: ИИ нельзя оставлять без присмотра — были случаи, когда автономные агенты по ошибке удаляли важные части инфраструктуры.
- Интерпретация: Только аналитик может понять истинное намерение (intent) противника, которое стоит за аномальными сигналами.
- Креативность: Автоматизация берет на себя рутину (поиск уязвимостей), позволяя специалистам фокусироваться на сложных, нестандартных сценариях атак.
4. Проблема «трех дней»: Успеем ли мы патчить?
Агентство CISA рассматривает возможность сокращения сроков исправления критических уязвимостей с 14 до 3 дней. Эксперты настроены скептически:
- Ресурсы: Патчинг в энтерпрайз-среде — это не просто нажатие кнопки. Это тестирование на совместимость, чтобы не «уронить» производство.
- Зависимость от вендора: Вы не можете применить патч, если разработчик софта еще его не выпустил.
- Решение: Вместо того чтобы гнаться за невыполнимыми сроками, нужно инвестировать в эшелонированную оборону (Defense in Depth) — многоуровневую защиту, которая остановит хакера, даже если уязвимость еще не закрыта.
Практические советы по защите
| Объект защиты | Рекомендация |
| API-ключи | Никогда не храните их в коде или в публичных репозиториях (GitHub). Используйте менеджеры секретов. |
| Бюджет | Установите жесткие квоты (Usage Limits) и настройте алерты на телефон при резком скачке потребления. |
| Процессы | Переходите от ручного управления к автоматизации безопасности (DevSecOps) и микросервисам. |
| Гигиена | В облачных средах все, что «выключено по умолчанию», часто является небезопасным. Проверьте настройки доступов. |
Итог: В эпоху ИИ-атак скорость имеет значение, но фундаментом остается базовая кибергигиена и бдительность сотрудников. Не позволяйте своим API-ключам стать «бесплатным проездным» для киберпреступников.