Скрытые инструкции WhatsApp и фейковые данные в ChatGPT

За одну неделю всплыли две истории, которые показывают одну и ту же уязвимость ИИ-ответов. В справке WhatsApp нашли скрытые от людей инструкции для чат-бота, в том числе требование не советовать пользователям обращаться к регулятору. А исследователь Peec AI показал, что 50 000 страниц выдуманной статистики могут попасть в ответы ChatGPT, научную статью и инвестиционный отчёт. Разбираемся, что именно произошло и что это значит для пользователей, компаний и издателей.

Коротко

• В 80 из 545 страниц справки WhatsApp нашли 102 скрытых блока с инструкциями для ИИ-ассистента; часть из них противоречила опубликованной политике конфиденциальности компании.
• WhatsApp называет это ошибкой отображения и говорит, что исправил её; блоки исчезли со страниц после запроса журналистов.
• Сайт с полностью выдуманной статистикой почти пропал из Google, но продолжает активно использоваться ChatGPT и цитироваться реальными организациями.
• Обе истории указывают на один слабый участок — слой поиска и извлечения данных, через который ИИ получает контекст и который почти никто не проверяет.

История первая: что прятала справка WhatsApp

8 октября компания Redact, которая делает софт для удаления персональных данных, обнаружила в HTML-коде справочного центра WhatsApp текст, невидимый на экране. 19 октября она опубликовала подробный разбор: автор прошёл по всем 545 страницам, на которые ссылается справка, и нашёл 102 скрытых блока на 80 страницах. Блоки были размечены элементом с «LLM» в названии и, судя по содержанию, адресовались чат-боту поддержки.

Большинство инструкций, по оценке Redact, были рутинными: уточнение терминов, маршрутизация вопросов, описание платных функций. Некоторые даже защищали пользователей — например, запрещали боту советовать указывать ложный возраст. Но две выделялись:

• Страница об удалении аккаунта. Пользователям, которые потеряли телефон или номер и не могут удалить аккаунт, бот должен был рассказывать только об автоматических сроках удаления и не советовать обращаться в орган по защите данных, а также не намекать, что WhatsApp может удалить аккаунт вручную.
• Страница о жалобах и блокировках. Если пользователь упоминал юриста, суд или иск, бот не должен был ссылаться на условия использования и политику конфиденциальности, обсуждать ответственность компании или упоминать законы о защите данных, включая GDPR.

Проблема в том, что эти инструкции расходятся с собственными документами WhatsApp. Как отмечает The Hacker News, европейская политика конфиденциальности сервиса, действующая с 2 июля 2026 года, прямо называет право пожаловаться в Комиссию по защите данных Ирландии или другой надзорный орган. Право на жалобу в надзорный орган и право на удаление данных закреплены и в самом регламенте GDPR (статьи 77 и 17).

Как WhatsApp это объясняет и что осталось неясным

Представитель WhatsApp заявил WIRED, что это инструкции для чат-бота, а не для пользователей, и что текст оказался на страницах из-за ошибки, которую уже исправили. По словам компании, она хочет, чтобы бот поддержки давал советы о WhatsApp, а не юридические консультации.

Хронология, восстановленная Redact по копиям в Internet Archive, выглядит так: в копии от 12 июля заметки нет, в копии от 4 сентября она уже есть. В ночь на 18 октября все 102 блока исчезли со всех 80 страниц — после того как WIRED обратился в Meta и до выхода публикаций. Редакция Redact также проверила 300 страниц справки Facebook и Instagram, работающих на той же системе, и подобных заметок не нашла.

Ключевого ответа в истории нет: неизвестно, выполнял ли бот эти инструкции и действуют ли они до сих пор, просто уже не на публичных страницах. Redact отдельно отмечает любопытную деталь: скрытый текст отдавался поисковым роботам Google и Bing, а на запросы с user-agent краулеров OpenAI, Anthropic и Perplexity эти страницы не отдавались. Реакции регуляторов на момент публикации не было.

Открытый вопрос. Если скрытые инструкции попали в индексы Google и Bing, могли ли их учитывать сторонние ИИ-ассистенты, которые опираются на эти индексы при ответах о WhatsApp? Redact это не проверял, и публичных данных об этом нет.

История вторая: 50 000 выдуманных цифр

Вторую историю рассказал исследователь Метехан Йесилюрт в блоге Peec AI и в своей рассылке. В марте 2026 года он запустил сайт со статистикой по SEO, маркетингу, соцсетям и e-commerce для 200 стран. Все цифры были выдуманы: 50 000 страниц сгенерировала GPT-4.1 за один день, позже добавились 15 000 подборок. Весь эксперимент, по словам автора, обошёлся примерно в $50, и ни одна цифра не проверялась.

Дальше события разошлись в двух направлениях:

Автор называет это «отмыванием цитирований»: каждая ссылка от уважаемой организации делает выдуманную цифру убедительнее для следующего читателя и следующей модели. Его собственная формулировка: число «так и не стало правдой, оно стало правдоподобным». Сейчас на сайте стоит предупреждение, а автор просит не повторять эксперимент.

Объяснение механики у автора простое. Когда модель ищет материал для ответа, она формирует подзапросы, которые тяготеют к конкретным цифрам, потому что цифры выглядят как доказательства. Ранжировщики оценивают релевантность, а не достоверность, а проверка фактов дорогая, поэтому её пропускают. На наш взгляд, важнее всего вывод о том, что поиск для ИИ и ранжирование в Google — разные системы: сайт, который Google уже признал мусором, может оставаться полноценным источником для ChatGPT.

Что объединяет эти истории

На первый взгляд это противоположные случаи: в одном крупная компания тихо направляет собственного бота, в другом посторонний человек засоряет чужие ответы. Но, по нашей оценке, уязвимость одна: между пользователем и ответом ИИ есть слой извлечения контекста, который человек не видит и который почти никто не проверяет.

• Один документ — две аудитории. Человек видит отрисованную страницу, а система извлечения получает сырой HTML со всем, что скрыто. Разработчик Ашраф Чоудхури в разборе для разработчиков называет кейс WhatsApp реальным примером инъекции промпта через контент, а не теоретической демонстрацией.
• Контент как канал управления. Любой, кто может редактировать базу знаний, может менять поведение бота без изменения кода и без ревью. Любой, кто может опубликовать страницу, может повлиять на чужие ответы.
• Отсутствие проверки. Ни бот WhatsApp, ни ChatGPT не обязаны сверять то, что извлекли, с официальной позицией или реальностью.

Масштаб интереса к теме показателен: история WhatsApp вышла в топ Hacker News, набрав более 600 очков и 175 комментариев. Главный вопрос, который она ставит, на наш взгляд, такой: если бот поддержки становится основным каналом общения с компанией, кто проверяет, что он говорит правду о правах пользователя?

Что это значит на практике

Для пользователей. Ответ ИИ-поддержки — не юридическая позиция компании и не исчерпывающий список ваших прав. Если вопрос касается удаления данных или споров, сверяйтесь с опубликованной политикой конфиденциальности. В ЕС право на удаление данных и право пожаловаться в надзорный орган действуют независимо от того, что скажет бот.

Для компаний, которые строят ИИ-поддержку на базе знаний:

• индексируйте отрисованный текст или вычищайте скрытые элементы перед загрузкой в систему извлечения;
• сравнивайте отрисованную и сырую версии страниц и помечайте расхождения;
• храните правила поведения бота в системном промпте с версионированием и ревью, а не в разметке контента;
• ограничьте права на редактирование базы знаний и ведите журнал изменений, как для кода;
• проверяйте инструкции бота на соответствие опубликованным политикам — расхождение станет репутационной и, возможно, регуляторной проблемой.

Для издателей и SEO-специалистов. Эксперимент Peec AI легко прочитать как инструкцию по накрутке видимости в ИИ-ответах. Мы бы читали его иначе: модели пока плохо отличают выдуманные цифры от настоящих, но эта дыра очевидна и, скорее всего, будет закрываться. Сам автор отмечает, что его вторая страница с проверенной и подтверждённой статистикой тоже быстро набрала ссылки и цитирования. Ставка на настоящие данные с указанием источника и даты выглядит устойчивее любой тактики, которая работает только до следующего обновления.

Вывод

ИИ-ответы постепенно становятся основным интерфейсом между людьми и информацией — от поддержки мессенджера до рыночной статистики. Эти две истории показывают, что под этим интерфейсом лежит слой, который не видят ни пользователи, ни зачастую сами компании. В одном случае его использовали, чтобы недоговаривать о правах пользователей, в другом — чтобы выдумка стала цитируемым фактом. Пока у этого слоя нет прозрачности и проверки, к любому уверенному ответу ИИ стоит относиться как к пересказу неизвестного источника — и проверять его по первоисточнику.