Что произошло
SanDisk и SK hynix рассматривают архитектуры, в которых NAND и HBM работают ближе друг к другу и помогают дата-центрам справляться с большими объёмами информации. HBM обеспечивает высокую пропускную способность рядом с ускорителем, а NAND даёт большую ёмкость по более низкой цене.nnТакое сочетание не превращает обычную память в универсальную замену видеопамяти, но может уменьшить давление на инфраструктуру при обучении и обслуживании больших моделей.
Контекст
Современные AI-системы часто ограничены тем, как быстро данные поступают к вычислительному блоку. Ускоритель может быть достаточно мощным, но простаивать, если память, накопители и сеть не успевают подать нужный объём информации. Поэтому рынок развивается сразу в нескольких направлениях: ускорители, упаковка чипов, память и охлаждение.
Что это значит
Для пользователей это не означает немедленного появления новой памяти в домашнем ПК. Изменения сначала затронут серверы и облачные платформы, а позже могут повлиять на стоимость и доступность AI-сервисов.
