Итоги недели в IT: дискуссия о замедлении развития искусственного интеллекта снова обострилась, Oracle провела массовые увольнения, в даркнете начали продавать цифровые личности для прохождения проверок, а ошибка нейросети, по данным СМИ, едва не привела к военному инциденту между США и Китаем.
Гонка искусственного интеллекта: замедляться никто не хочет
После призывов к более осторожному развитию ИИ тема регулирования нейросетей снова стала одной из главных в технологической индустрии. Ранее с идеей замедлить темпы разработки и внедрить дополнительные меры безопасности выступал Дарио Амодеи. Его позицию, как утверждается, поддержали Сэм Альтман и Илон Маск.
Однако против замедления развития искусственного интеллекта высказался Дональд Трамп. Он заявил, что США должны сохранить лидерство в гонке ИИ, поскольку победитель в этой сфере получит стратегическое преимущество.
Мы опережаем Китай и являемся самой продвинутой страной в мире. Я бы предпочёл, чтобы мы ею оставались, потому что выиграет тот, кто победит в искусственном интеллекте.
Похожую позицию занял и Марк Цукерберг. Глава Meta заявил, что компания не намерена замедлять разработку моделей. По его словам, разработчики уже осознают возможные риски и сами заинтересованы в безопасности ИИ.
Oracle провела одно из самых жёстких увольнений в IT
Одной из самых резонансных новостей недели стали массовые сокращения в Oracle. По разным оценкам, увольнения затронули от 6 до 10 тысяч сотрудников.
По сообщениям, многие работники узнали о потере работы только утром, когда не смогли попасть в офис: их бейджи уже были заблокированы. Перед этим компания якобы отключила им рабочие аккаунты и доступ к корпоративным мессенджерам.
- около 4:00 утра сотрудникам отключили рабочие аккаунты;
- около 5:00 утра удалили доступ к корпоративному Slack;
- около 6:00 утра на рабочую почту отправили уведомления об увольнении;
- при попытке войти в офис бейджи уже не работали.
Ситуация вызвала бурную реакцию, поскольку доступ к рабочей почте у многих был уже заблокирован, а значит, сотрудники не могли своевременно прочитать уведомление.
Отмечается, что это не первое крупное сокращение Oracle за год: ранее компания уже увольняла около 21 тысячи человек. Одной из причин называют масштабные обязательства Oracle по дата-центрам и инвестициям в инфраструктуру для искусственного интеллекта.
Crytek сокращает тестировщиков и издательские команды
Сокращения затронули и игровую индустрию. Компания Crytek, известная по сериям Far Cry и Crysis, сообщила об увольнениях в офисах во Франкфурте и Стамбуле. Речь идёт примерно о 30 сотрудниках.
Особое внимание привлекло то, какие именно специалисты попали под сокращение. В Германии увольняют тестировщиков, а в Турции — сотрудников, связанных с издательским направлением.
Это может повлиять на качество будущих игр компании: меньше тестировщиков означает больший риск ошибок и технических проблем на релизе. Сокращение издательских команд также может осложнить продвижение игр на разных рынках и платформах.
В даркнете продают поддельных людей за 200 долларов
В даркнете начали появляться предложения по продаже цифровых личностей, которые могут проходить автоматические проверки, в том числе банковские. Стоимость одной такой личности оценивается примерно в 200 долларов.
Такие цифровые профили собирают из украденных данных реальных людей. У одного человека могут взять паспортные сведения, у другого — фотографию, у третьего — голос. Затем с помощью нейросетей из этих фрагментов создают убедительный набор данных.
Проблема особенно опасна из-за автоматизации проверок. Если система видит документ, лицо и голос, она может посчитать личность настоящей, даже если данные собраны из разных источников.
По данным за последний год появилось более 10 тысяч подобных предложений. При этом отдельные элементы цифровой личности, например голос, могут продаваться отдельно примерно за 10 долларов.
Anthropic заявляет о высокой маржинальности, но с важными оговорками
Компания Anthropic сообщила инвесторам, что уже второй год показывает высокую валовую маржу — около 80%. На первый взгляд это выглядит как признак устойчивой прибыльности.
Однако показатель получается таким только без учёта некоторых ключевых расходов. В частности, речь идёт о крупных платежах, связанных с Amazon, а также о затратах на обучение новых моделей и разработку Claude.
Если учитывать эти расходы, Anthropic остаётся в значительном минусе. Тем не менее рост клиентской базы и выручки может поддерживать интерес инвесторов к компании.
Ошибка нейросети едва не привела к конфликту США и Китая
Одной из самых тревожных историй недели стал материал CNN о том, как ошибка искусственного интеллекта едва не спровоцировала серьёзный международный инцидент.
По данным CNN, весной, на фоне конфликта между США и Ираном, одно из американских командований получило сообщение о том, что китайское судно на Ближнем Востоке якобы перевозит компоненты для ядерной программы.
Информация была особенно чувствительной, поскольку американская политика в отношении Ирана во многом связана с иранской ядерной программой. Если бы Китай действительно помогал с такими поставками, это могло бы привести к резкой военной реакции.
Однако затем выяснилось, что отчёт был подготовлен с использованием нейросети. Модель неверно интерпретировала данные о грузе на борту судна. Человек, проверивший отчёт до принятия окончательных решений, фактически предотвратил возможную эскалацию.
Этот случай стал напоминанием о ключевом правиле работы с ИИ: результаты нейросетей необходимо проверять, особенно если на их основе принимаются решения в сфере безопасности, военного управления или международной политики.
Anthropic планирует открыть биолабораторию
Anthropic также собирается открыть собственную биологическую лабораторию, где эксперименты будут проводить умные роботизированные системы. Компания заявляет, что разработка лекарств не является единственной целью проекта.
По словам представителей компании, лаборатория может заняться задачами, которые сегодня недостаточно активно изучаются фармацевтической отраслью. В обсуждениях уже появились предположения, что Anthropic может обратить внимание на исследования старения и других сложных биологических процессов.
Такой шаг выглядит логичным для крупной ИИ-компании: вычислительные мощности и модели можно использовать не только в чат-ботах, но и в смежных направлениях, где есть коммерческий и научный потенциал.
Google Gemini во время тестов взломала реальные сайты
Во время тестирования модель Gemini от Google, как утверждается, смогла получить доступ к двум реальным сайтам, которые не были частью запланированного сценария.
Эта история снова подняла вопрос ответственности за действия нейросетей. Если человек взламывает сайт, он может столкнуться с уголовным преследованием. Но когда подобное делает модель в рамках теста, ответственность компаний остаётся спорной.
Проблема становится всё заметнее: крупные разработчики ИИ регулярно тестируют модели на задачах кибербезопасности, и иногда такие эксперименты затрагивают реальные сервисы.
Немецкая полиция использовала веб-версии мессенджеров для чтения переписок
Немецкая полиция показала, что для доступа к перепискам подозреваемых не всегда нужны сложные взломы, вредоносные программы или обход шифрования. В некоторых случаях достаточно войти в веб-версию мессенджера.
Если правоохранители получают доступ к устройству человека, они могут авторизоваться в веб-версии Telegram, WhatsApp или Signal и затем просматривать переписки через браузер.
Метод не работает для всех сценариев. Например, секретные чаты с локальными ключами шифрования могут оставаться недоступными в веб-версии. Кроме того, пользователь может проверить список подключённых устройств и отключить неизвестную сессию.
Intel отказалась от выплат за найденные уязвимости
Intel изменила программу вознаграждений за поиск уязвимостей. Раньше белые хакеры могли получать выплаты за найденные ошибки: от 500 долларов за относительно простые баги до 100 тысяч долларов за серьёзные проблемы.
Теперь компания обновила правила: вместо денежных вознаграждений исследователям могут лишь выразить благодарность.
Одной из причин называют резкий рост количества сообщений об уязвимостях после распространения нейросетей. Люди всё чаще используют ИИ для поиска багов, но многие отчёты оказываются неверными, повторяющимися или уже известными разработчикам.
Похожая проблема затрагивает и открытые проекты: разработчики сталкиваются с потоком сообщений, запросов и предложений исправлений, созданных при помощи ИИ, но не всегда полезных.
Cursor ограничивает доступ для пользователей из России и Беларуси
ИИ-редактор кода Cursor начал ограничивать доступ к платным функциям для пользователей из России и Беларуси. Если сервис определяет активность из этих стран, пользователь может получить уведомление о невозможности продолжать работу с инструментом.
В некоторых случаях компания может вернуть деньги за подписку, однако это не гарантируется. Причиной ограничений, вероятно, являются санкционные требования, поскольку современные нейросети всё чаще рассматриваются как стратегические технологии.
Главный вывод недели
Главная тенденция очевидна: искусственный интеллект всё глубже проникает в разработку, безопасность, биотехнологии, финансы и военную сферу. Вместе с этим растут риски: от ошибочных разведывательных выводов до поддельных цифровых личностей и проблем с ответственностью за действия ИИ-систем.
Для бизнеса, государств и пользователей ключевым становится не только внедрение нейросетей, но и контроль качества их работы. Ошибка ИИ уже может стоить не просто денег, а доверия, безопасности и международной стабильности.
На основе ИИ почти начал войну, Тестировщиков сокращают, Поддельные люди за 200 долларов