🏷️ Неделя Чёрной пятницы началась! Все пакеты −50% по промокоду— только до 30 ноября.Забрать скидку →

Провайдеры ИИ-моделей теряли промпты клиентов: Dragos поймала утечки «мечеными» ключами, а OpenRouter отключила трёх провайдеров

Провайдеры ИИ-моделей теряли промпты клиентов: Dragos поймала утечки «мечеными» ключами, а OpenRouter отключила трёх провайдеров

Пять месяцев исследователи Dragos отправляли в ИИ-сервисы запросы с «мечеными» ключами и смотрели, кто ими воспользуется. Ключи всплывали у взломщиков, перепродавцов и компаний, которые не должны были видеть запросы, — даже в режиме «не хранить данные». OpenRouter отключила трёх провайдеров, а Phala, Together и Novita опубликовали уведомления об инцидентах.

Коротко

  • Dragos отправила около двух миллионов промптов с уникальными ссылками и ключами AWS и нашла признаки взлома как минимум трёх провайдеров инференса.
  • Часть украденных запросов была помечена как Zero Data Retention: режим, при котором провайдер обещает не хранить данные.
  • OpenRouter отключила трёх провайдеров, исключила 125 точек подключения из списка ZDR и уведомила клиентов. Phala, Together и Novita описали у себя три разных инцидента: взлом сервера, утечку из-за ключа, который закоммитил ИИ-агент, и ошибку маршрутизации.
  • Главный практический вывод: флаг приватности защищает только на первом шаге цепочки, а секреты, попавшие в контекст ИИ-агента, нужно считать раскрытыми.

Что произошло

19 ноября главный исследователь Dragos HD Moore, создатель Metasploit, опубликовал итоги эксперимента. С июля по ноябрь его команда отправила около двух миллионов запросов в популярные ИИ-сервисы и следила, что происходит с ними после ответа модели.

Сначала поясним термины. Инференс — это работа уже обученной модели: запрос пришёл, модель ответила. Провайдер инференса держит модели на своих GPU и продаёт доступ по API.

ИИ-роутер — это посредник с одним API, который пересылает запрос одному из многих провайдеров и выставляет общий счёт. Самый известный из них — OpenRouter. Некоторые роутеры устроены как маркетплейс: запрос достаётся продавцу, который предложил самую низкую цену.

Как устроен тест

В каждый промпт исследователи вставляли «канарейку». Канарейка — это приманка, которая существует только в одном месте: уникальная ссылка, DNS-имя, пароль или ключ AWS от пустого аккаунта с полным журналированием. Если ей кто-то воспользовался, значит, этот кто-то прочитал именно этот промпт.

Начинали с бесплатного сервиса Canarytokens от Thinkst, потом построили собственную систему. Она связывает каждое срабатывание с конкретной моделью, роутером и настройкой приватности. Чтобы понять, через какие узлы реально прошёл запрос, Dragos сделала аналог traceroute для инференса и проследила около двух тысяч маршрутов.

Три главные находки

Взломанные провайдеры

По данным Dragos, злоумышленники крали данные как минимум у трёх хостинг-провайдеров. Самый ранний инцидент относится к середине июля, и ни один провайдер не знал о взломе, пока исследователи не сообщили.

В крупнейшем случае украли пару сотен ключей AWS. Часть из них была в запросах, которые провайдер отклонил ещё до запуска модели. Значит, данные копировали прямо на входе. Украденными ключами сделали десятки тысяч вызовов API AWS. В двух других взломах среди украденного были запросы с пометкой ZDR.

Dragos подчёркивает: промпты-приманки обрабатывались вместе с настоящими запросами клиентов, поэтому реальные данные, скорее всего, тоже скопированы.

Перепродавцы на маркетплейсе

Здесь взлом вообще не понадобился. Продавцу достаточно выставить популярную модель по самой низкой цене, включить журналирование запросов и ждать.

В одном случае примерно через полтора дня после запроса кто-то с домашнего интернета открыл обе секретные ссылки и начал подбирать логины. Запросы к той же модели через другого продавца никто не трогал. Отсюда вывод Dragos: утечка привязана к конкретному продавцу, а не ко всему маркетплейсу.

Приватность на бумаге

Третья находка касается компаний, которые вообще не должны были видеть запросы. Самый яркий пример — неназванная китайская ИИ-лаборатория. Её системы, по данным Dragos, открывали секретные ссылки из более чем половины промптов к её моделям, в том числе примерно из двух третей запросов с пометкой «не собирать данные» или ZDR.

Американские хостинги, которые перепродают модели этой лаборатории, вызывали тот же сборщик. Клиент выбирал провайдера в США, чтобы данные оставались в США, а промпт всё равно уходил к разработчику модели.

Есть претензии и к крупным американским провайдерам. Один из них продолжал обходить секретную ссылку больше двух месяцев после единственного запроса. А одна ссылка через 24 дня всплыла во внутреннем рабочем чате в Китае.

Что ответили провайдеры

Dragos не называет компании. Зато 22 ноября OpenRouter сообщила, что отключила трёх провайдеров, исключила 125 точек подключения из списка ZDR и уведомила всех клиентов, которых это могло затронуть. По словам компании, взлома самой OpenRouter не было. Каких именно провайдеров она отключила, OpenRouter не уточняет.

В том же посте собраны публичные уведомления трёх провайдеров. Это три разных сценария.

  • Phala: взлом сервера. В предварительном отчёте от 10 ноября компания пишет, что атакующий взял под контроль новый GPU-сервер, работавший без полной защиты, и видел запросы во время обработки. Затронута модель DeepSeek V4 Flash 0731 при запросах через OpenRouter с 21 октября до 8 ноября. Таким пользователям Phala советует сменить все секреты, которые были в запросах.
  • Together AI: ключ в публичном репозитории. По уведомлению от 21 ноября, ИИ-агент для программирования закоммитил в публичный репозиторий ключ к закрытому хранилищу на Hugging Face. Там лежали образцы промптов за июнь и июль, собранные для тестов, и посторонний их скачал. Он искал в них учётные данные от других сервисов, и пять из проверенных им ключей оказались канарейками Dragos.
  • Novita: ошибка маршрутизации. Компания сообщила, что с 28 мая по 11 ноября часть запросов к моделям MiniMax из-за ошибки конфигурации уходила в официальный API MiniMax, а не обрабатывалась на серверах Novita. Хранила ли MiniMax эти данные, пока не выяснено.

Together в ответ перешла на короткоживущие ключи, проверяет все pull request на секреты, сделала ZDR режимом по умолчанию для новых аккаунтов и изменила правила работы с ИИ-агентами. Novita приостановила затронутые модели.

Ограничения и критика

Dragos — коммерческая компания, и её пост заканчивается рекламой собственного продукта для мониторинга сетей. Сами находки от этого не становятся слабее, но проверить их независимо пока нельзя: большинство провайдеров в отчёте не названы.

Нельзя и напрямую сопоставить три взлома из отчёта Dragos с тремя провайдерами, которых отключила OpenRouter, и с тремя опубликованными уведомлениями. Ни Dragos, ни OpenRouter такого соответствия не дают.

Нарушения приватности — не всегда злой умысел. Dragos сама пишет, что провайдеры игнорируют настройки либо намеренно, либо из-за ошибок в обработке. Случай Novita похож именно на ошибку конфигурации.

Наконец, канарейки показывают, что промпт кто-то прочитал, но не всегда показывают, где именно в цепочке это произошло. Поэтому Dragos и понадобилась отдельная трассировка маршрутов.

Это не первый сигнал

В апреле группа исследователей опубликовала работу «Your Agent Is Mine» о посредниках между ИИ-агентами и моделями. Они проверили 28 платных роутеров, купленных на Taobao, Xianyu и в магазинах на Shopify, и 400 бесплатных.

Девять роутеров подменяли код в ответах, 17 воспользовались подброшенными ключами AWS, а один вывел криптовалюту с тестового кошелька. Главная мысль работы: роутер видит каждый запрос в открытом виде, и ни один провайдер не проверяет целостность данных между клиентом и моделью.

Если коротко, апрельская работа показала проблему на дешёвых и серых посредниках. Отчёт Dragos показывает, что она доходит и до обычных провайдеров, которыми пользуются компании.

Что это значит для разработчиков

Самая важная фраза в отчёте Dragos звучит так: флаг приватности действует только на первом шаге. ZDR обещает тот, к кому вы обратились. Что будет дальше по цепочке, зависит от каждого следующего участника.

Даже у OpenRouter, по документации, режим ZDR не распространяется на подключённые плагины и инструменты вроде веб-поиска: у них свои правила хранения. Если политику конкретной точки подключения проверить нельзя, OpenRouter считает, что та хранит данные и учится на них.

Шаг 1. Проверьте, не затронуты ли вы

Если вы работали через OpenRouter, посмотрите, не приходило ли уведомление. Если пользовались DeepSeek V4 Flash 0731 через Phala, MiniMax через Novita или serverless-инференсом Together летом, сверьте даты с уведомлениями этих компаний.

Шаг 2. Смените секреты

Любой ключ, пароль или токен, который мог попасть в промпт за эти периоды, считайте раскрытым. Об этом прямо пишут и Phala, и Novita.

Шаг 3. Уберите секреты из контекста агентов

По словам Dragos, ИИ-агенты охотно отправят модели всё, что могут прочитать, включая учётные данные. Если вы даёте агенту репозиторий, проверьте, нет ли там файлов с ключами. Там, где провайдер это предлагает, включите фильтрацию секретов. Но она ловит только то, что похоже на ключ, а не любые конфиденциальные данные.

Шаг 4. Выбирайте маршрут сами

Dragos советует не полагаться на пул провайдеров по умолчанию, а явно выбирать, кому уходят запросы, и проверять, что настройки приватности действительно меняют маршрут. От маркетплейсов перепродавцов исследователи советуют держаться подальше. Для самых чувствительных задач — обращаться к провайдеру первого уровня напрямую или запускать модель у себя.

Шаг 5. Поставьте свои канарейки

Добавьте фальшивый ключ в контекст, который ваши агенты и пайплайны и так отправляют модели. Любая попытка им воспользоваться — повод начинать разбор инцидента.

Открытый вопрос: станут ли роутеры и провайдеры доказывать соблюдение ZDR независимыми проверками — или клиентам так и придётся проверять обещания о приватности собственными приманками?

Вывод

Отчёт Dragos не говорит, что пользоваться ИИ-сервисами опасно. Он говорит, что маршрут промпта — это решение, и если его не принять самому, его примет самая низкая цена.

Для команд, которые подключают модели через посредников, практический итог простой: относиться к промптам как к данным, которые могут утечь, не держать в них секреты и проверять, куда на самом деле уходят запросы.

Полезная новость?

Читайте также

Комментарии

 logo