Альтман против памяти в вашем ПК: где он прав, а где нет в споре о локальном ИИ

Альтман против памяти в вашем ПК: где он прав, а где нет в споре о локальном ИИ

Глава OpenAI Сэм Альтман сказал, что держать дефицитную оперативную память в домашних компьютерах — плохая идея для всего мира: в облаке она работает почти без перерыва, а в ПК простаивает.

За выходные эта фраза стала мемом на трёх языках. Разбираем, в чём Альтман прав, где его аргумент не выдерживает проверки и что на самом деле можно запустить на домашнем железе.

Коротко

  • Альтман считает, что в условиях дефицита память выгоднее отдавать дата-центрам, где её загрузка выше. Цифру о том, что память в ПК работает 5% времени, он ничем не подкрепил.
  • Дефицит реален: цены на DRAM растут, а продажи ПК в третьем квартале упали больше чем на 20%.
  • Но заметную часть спроса на память создают сами ИИ-компании, в том числе OpenAI с её проектом Stargate. Да и облако не всегда загружено так, как кажется.
  • Локальный ИИ на 16 ГБ видеопамяти уже годится для части задач, но с оговорками по качеству.

Что сказал Альтман

Фраза прозвучала 29 октября в подкасте Cheeky Pint, который ведёт сооснователь Stripe Джон Коллисон. Выпуск был про вычисления, агентов и математику, а память всплыла в разговоре о дефиците железа. Мы опираемся на официальную расшифровку выпуска.

Логика Альтмана такая. Производство памяти исторически было плохим бизнесом: компании годами вкладывали в заводы примерно столько же, сколько зарабатывали, и пережили несколько обвалов. Теперь они зарабатывают много, но помнят те кризисы и не спешат строить новые мощности. Значит, памяти ещё долго будет не хватать.

Отсюда вывод о локальном ИИ. Многие думают, что открытые модели решат проблему: запускай их у себя, и огромные дата-центры не понадобятся.

Альтман назвал «довольно ужасным» то, что дефицитная DRAM рассеяна по личным компьютерам, где используется, по его словам, около 5% времени. В облаке, где железо загружено почти постоянно, та же память, считает он, даёт больше пользы.

DRAM — это оперативная память, та самая, что стоит в ноутбуке и сервере. Видеопамять в игровых картах и память HBM в ускорителях для ИИ — её разновидности. Их выпускают одни и те же производители, и мощности между видами памяти перераспределяются.

Как отреагировали в соцсетях

Фрагмент с цитатой разошёлся за выходные: пост Pubity с этими словами набрал больше 21 млн просмотров в X. Основной ответ интернета — шутки, и чаще всего от геймеров. Вот несколько из самых популярных, переводы наши и сокращённые.

Пользователь Sudo su «объявил» от имени OpenAI программу «амнистии RAM»: сдайте лишние планки на 32 ГБ в любой дата-центр, без лишних вопросов. И дальше:

«Взамен вы получите подписку за $200 в месяц, чтобы пользоваться собственной RAM» — Sudo su в X, почти миллион просмотров
«Мои 32 ГБ DDR4 — для Dragon Age: Origins, и он их не получит» — wepepe в X, больше 5 тыс. лайков
«Заприте двери на ночь, иначе Альтман прокрадётся и вытащит RAM из вашего MacBook Pro» — Amelia в X, около 5 тыс. лайков
«Загружу все 64 ГБ на 100% — исключительно взрывами динамита в Minecraft» — ютубер AntVenom в X, больше 5 тыс. лайков

За шутками часто терялась суть. Альтман не говорил, что людям не нужны компьютеры или память вообще: речь шла о распределении дефицитной памяти именно под локальный ИИ. Но реакция показала, что сама идея «пусть ваши ресурсы лучше поработают в нашем облаке» задела очень многих.

Насколько велик дефицит

Аналитическая компания TrendForce ожидает, что в четвёртом квартале контрактные цены на обычную DRAM вырастут ещё на 10–15% к предыдущему кварталу. По её данным, производители по-прежнему отдают приоритет серверным продуктам, а рынок остаётся в дефиците.

Удар по потребителям уже виден в продажах. По предварительным данным Gartner, мировые поставки ПК в третьем квартале упали на 22,4% год к году, до 55,4 млн штук.

Аналитик Gartner Намрата Банерджи связывает это с тем, что во втором квартале DRAM подорожала в пять раз за год, и производители переложили рост цен на покупателей.

Ещё в феврале Gartner прогнозировала, что к концу года память и SSD вместе подорожают на 130%, а средняя цена ПК вырастет на 17%. По её оценке, к 2028 году с рынка могут исчезнуть компьютеры дешевле $500.

Где Альтман прав

Загрузка действительно решает

Сервер, который работает круглые сутки, извлекает из каждого гигабайта больше пользы, чем ноутбук, который половину дня закрыт. На специализированных кластерах для обучения моделей загрузка бывает очень высокой. Например, по данным, которые приводит Data Center Knowledge, исследовательский суперкомпьютер Meta работал с загрузкой видеокарт 83–85%.

Локальные модели слабее облачных

Лучшие открытые модели отстают от закрытых всего на несколько месяцев, но они слишком велики для ноутбука. А то, что помещается на домашнее железо, заметно уступает облачным лидерам в сложных задачах вроде программирования.

Где аргумент не выдерживает проверки

Цифра 5% ничем не подтверждена

Альтман не привёл ни исследования, ни данных. К тому же память в ПК не «зарезервирована» под ИИ. Она одновременно обслуживает браузер, игры, монтаж видео и всё остальное, а локальная модель лишь иногда использует её часть.

Облако тоже простаивает

Компания Cast AI, которая продаёт инструменты для оптимизации облака, в своём отчёте за 2026 год насчитала среднюю загрузку видеокарт около 5% в десятках тысяч корпоративных кластеров у AWS, Azure и Google Cloud. Загрузка памяти там же — около 20%.

Здесь важны оговорки. Cast AI смотрела кластеры до оптимизации, и она заинтересована в том, чтобы цифра выглядела тревожно. Огромные дата-центры самих ИИ-лабораторий, скорее всего, загружены лучше. Но тезис «в облаке память работает почти всегда» точно не универсален.

Спрос на память создают в том числе сами ИИ-компании

В октябре 2025 года OpenAI объявила, что Samsung и SK hynix будут наращивать выпуск памяти для её проекта Stargate с целью до 900 тысяч пластин DRAM в месяц. По оценке, которую приводила TrendForce, это могло составить до 40% мирового выпуска DRAM.

Получается, что компания, которая заранее законтрактовала значительную долю мирового выпуска памяти, предлагает экономить её на пользовательских компьютерах. Это не делает аргумент об эффективности ложным, но меняет картину: дефицит создают в первую очередь не владельцы ноутбуков.

У Альтмана есть интерес

OpenAI зарабатывает на облачных моделях и подписках. На это обратил внимание и Tom's Hardware: локальный ИИ — это потенциально меньше платных подписок. Справедливости ради, то же верно для любого облачного провайдера ИИ, не только для OpenAI.

Эффективность — не единственный критерий

Люди запускают модели у себя не ради экономии памяти. Важны приватность, работа без интернета, отсутствие лимитов и независимость от того, что провайдер завтра поменяет цены или правила. Для Украины с отключениями света и для стран, где доступ к западным сервисам ограничен, это практические, а не идеологические причины.

Что реально работает на 16 ГБ: пример по шагам

Хороший пример того, как люди обходят ограничения железа, — разбор на Хабре от Евгения Игумнова. Он запускает кодинг-агента на видеокарте RTX 4070 Ti SUPER с 16 ГБ видеопамяти. Цифры ниже — заявления автора, сами мы его конфигурацию не проверяли.

Шаг 1. Выбрать модель под память

Автор берёт модель на 35 млрд параметров, устроенную по схеме MoE: на каждый токен у неё работают лишь около 3 млрд параметров.

Модель сильно сжата: каждый параметр хранится в среднем в 2–3 битах. Благодаря этому она помещается в 16 ГБ и, по его словам, выдаёт около 125 токенов в секунду. Токен — это кусок текста размером примерно со слог или короткое слово.

Шаг 2. Экономить контекст

Контекстное окно — это объём текста, который модель видит за раз. У автора оно около 65 тысяч токенов, и тяжёлые агенты съедают из него заметную часть только на свои инструкции. Поэтому он использует лёгкого агента с коротким системным промптом.

Шаг 3. Делить задачу на план и реализацию

Сначала агент пишет файл с планом изменений, затем контекст очищается, и агент вносит правки по плану. Крупные планы автор дробит на подзадачи, каждая из которых выполняется в отдельной сессии.

Шаг 4. Компенсировать ошибки тестами

Сильно сжатая модель ошибается чаще. Поэтому в правилах для агента автор требует писать тесты и прогонять их перед сдачей. Локально лишние итерации ничего не стоят, кроме времени.

Весь цикл одной строкой: подобрать модель под память, сэкономить контекст, разбить задачу, проверять тестами.

Пример показывает и главный компромисс. Чтобы поместиться в 16 ГБ, приходится жертвовать точностью модели и размером контекста. Это работает для средних задач, но не заменяет облачные модели там, где нужны большие кодовые базы и долгие рассуждения.

Открытый вопрос. Если память останется дорогой до 2027 года, кто первым откажется от локального ИИ — пользователи, которым не по карману ноутбук с 32 ГБ, или производители, которым выгоднее продавать память в дата-центры?

Что это значит для разработчиков и бизнеса

  • Память дорожает, и по прогнозу TrendForce дефицит сохранится в 2027 году. Если команде нужны рабочие станции под локальные модели, закладывайте рост цен в бюджет, а не ждите падения.
  • Считайте реальную загрузку. Если у вас свои видеокарты или облачные инстансы под ИИ, проверьте, насколько они загружены. Простой железа стоит денег и в облаке, и на месте.
  • Делите задачи по чувствительности данных. Конфиденциальное и простое разумно оставить локально, сложное — отправлять в облако.
  • Не стройте процессы на одном провайдере. Возможность переключиться на локальную модель — это страховка от изменения цен, лимитов и доступности сервиса.

Вывод

В узком смысле Альтман прав: загруженное железо эффективнее простаивающего, а память сейчас действительно в дефиците. Но, на наш взгляд, его аргумент обходит два неудобных факта: значительную часть дефицита создают сами ИИ-компании, а облачные мощности тоже далеко не всегда загружены.

По сути это спор не о гигабайтах, а о модели отношений с технологией: владеть своим железом или арендовать чужое. Для многих пользователей и компаний возможность выбрать важнее, чем глобальная эффективность распределения памяти.

Читайте также

Комментарии
 logo