С недавним релизом невероятно мощных ИИ-моделей из Китая (таких как DeepSeek, Qwen от Alibaba Cloud, Kimi от Moonshot AI и GLM) мир технологий захлестнула волна споров. Можно ли доверять этим моделям? Отправляются ли ваши данные в Китай при их использовании? И что вообще значит термин «открытые веса»?
В этой статье мы простыми словами разберем, как работают большие языковые модели (LLM), чем они отличаются друг от друга и какие реальные риски несет использование ИИ, созданного в других странах.
Что такое ИИ-модель на самом деле?
Многие называют это искусственным интеллектом, но технически то, с чем мы взаимодействуем в ChatGPT, Gemini или Claude, — это языковая модель (LLM).
Важное заблуждение: модель — это не дата-центр, не огромный сервер и не программа, которая в реальном времени "гуглит" информацию. Модель — это просто файл.
Чтобы создать этот файл, ИИ-лаборатории (например, OpenAI или DeepMind) тратят месяцы, миллиарды долларов и колоссальные вычислительные мощности на анализ всего интернета. Итогом этой работы становится автономный файл, содержащий миллиарды (или триллионы) чисел.
Этот файл умеет делать только одну вещь — предсказывать следующее слово. Он берет ваш запрос, угадывает вероятное следующее слово, добавляет его к тексту, и повторяет этот процесс снова и снова, пока не получится полный ответ. Сама по себе модель не подключена к интернету.
Проблема дистилляции и авторских прав
Модели обучаются на данных из сети, включая защищенные авторским правом статьи, книги и музыку. Но кроме "сырых" данных из интернета используется дистилляция (distillation) — процесс, при котором ответы одной, более умной модели сохраняются и используются для обучения другой. Это позволяет компаниям быстро "подтягивать" свои нейросети, хотя это часто нарушает условия использования (Terms of Service) исходных ИИ-лабораторий. Поскольку модели — это "черные ящики", доказать факт кражи данных практически невозможно.
Как мы получаем доступ к ИИ? (Аналогия с едой)
Чтобы понять, как ваши данные обрабатываются и куда они уходят, проще всего сравнить доступ к ИИ с индустрией питания.
| Метод доступа | Аналогия | Уровень вашего контроля | Примеры |
| Закрытые модели | Ресторан. Вы приходите, делаете заказ по меню и едите. Ресторан контролирует всё: рецепт, порции, цены. | Нулевой. Ваши данные идут на серверы компании. | ChatGPT (OpenAI), Claude (Anthropic), Gemini (Google). |
| API-доступ | Доставка еды. Еду готовит ресторан, но курьер привозит её к вам домой (в ваше приложение). | Низкий. Вы используете ИИ внутри своего любимого приложения, но данные всё равно уходят создателю модели. | ИИ-помощники в редакторах кода, чат-боты на сайтах. |
| Облачный Open Weight | Наборы для готовки. Вам привозят ингредиенты и рецепт, а готовите вы сами на своей кухне. | Средний. Вы арендуете сервер (например, Microsoft Foundry) и запускаете там ИИ. Создатель модели не видит ваши запросы. | Развертывание Kimi или GLM через Azure. |
| Локальный запуск | Готовка дома. Вы скачиваете рецепт, покупаете продукты и готовите сами. Можете менять рецепт как угодно. | Полный. Модель работает на вашем ПК без интернета. Никакие данные никуда не уходят. | Локальный запуск DeepSeek или Llama. |
Что такое Open Weight (Открытые веса)?
Когда ИИ-лаборатория делает свой файл-модель доступным для скачивания всем желающим, это называется Open Weight (модель с открытыми весами). Вы можете заглянуть внутрь файла и увидеть все числа (веса), которые определяют его работу.
Чем это отличается от Open Source (открытого исходного кода)?
В Open Source вы видите весь исходный код и понимаете, как программа была создана. В Open Weight вы получаете готовый "мозг", но не знаете, на каких именно данных он обучался и как формировались эти числа. Это всё еще черный ящик.
Кроме того, использование таких моделей регулируется лицензиями:
- DeepSeek: Выпускается под лицензией MIT. Вы можете скачивать её, менять и даже строить на её основе свой бизнес без ограничений.
- Llama (Meta): Имеет ограничения. Если у вашего сервиса более 700 млн активных пользователей в месяц или вы работаете в определенных конкурирующих отраслях, вы не можете использовать её бесплатно.
Огромный плюс открытых весов для бизнеса — возможность дообучения (Fine-tuning). Компании могут взять базовую китайскую или американскую модель, загрузить в неё свои внутренние документы, регламенты и коммерческие тайны, и развернуть на собственных защищенных серверах. В таком случае данные не передаются ни в США, ни в Китай.
Скрытые угрозы: Безопасно ли использовать китайские модели?
Если вы используете китайскую модель напрямую через их сайт (например, qwen.ai), ваши данные действительно отправляются в Китай. Для коммерческой тайны и интеллектуальной собственности это серьезный риск.
Но что, если вы скачали Open Weight модель от DeepSeek и запустили её локально? Ваши данные в безопасности, но появляются другие риски.
Недавнее исследование компании Booz Allen Hamilton выявило несколько тревожных фактов о локально запущенных китайских моделях:
- Уязвимый код: Если попросить модель написать код от лица «американского государственного служащего», китайские LLM генерируют больше скрытых уязвимостей, чем обычно.
- Политическая предвзятость: Модели транслируют политическую позицию КНР как в текстовых ответах, так и в логике генерируемого кода, и отказываются обсуждать запрещенные в Китае темы.
Поскольку модель — это "черный ящик", она может проверять, на каком языке задан вопрос, какое сейчас время или какой у вас IP-адрес (если у модели есть доступ к внешним инструментам), и менять свое поведение в зависимости от того, кто с ней общается.
Итог
ИИ-модели с открытыми весами — это мощнейший инструмент, который демократизирует технологии и позволяет запускать передовые нейросети уровня ChatGPT прямо у себя дома или на серверах компании. Китайские лаборатории сегодня создают одни из лучших открытых моделей в мире (размером более 2 триллионов параметров).
Если вы разворачиваете их на своей инфраструктуре, утечка данных вам не грозит. Однако стоит помнить, что "черный ящик" любой модели (как китайской, так и американской) может скрывать внутренние предвзятости, галлюцинации и скрытые инструкции, которые невозможно обнаружить простым чтением кода.
На основе Open Weight Models Explained