Intel раскрыла характеристики ускорителей GPU D-Series, ориентированных на инференс: до 480 ГБ LPDDR5X, пропускная способность до 1,5 ТБ/с и воздушное охлаждение при потреблении около 350 Вт. Такой формат нацелен на запуск больших моделей без нескольких серверных карт с дорогой HBM-памятью.
Что произошло
На мероприятии Open Compute Intel подробнее рассказала о линейке, ранее известной под кодовым именем Crescent Island. Карты используют PCIe-форм-фактор, а заявленный максимум производительности достигает примерно 1,3 PFLOPS в FP8.
Почему это важно
Для инференса объём памяти часто важнее пиковых вычислительных показателей: модель должна целиком поместиться рядом с вычислителем, иначе растут задержки и стоимость системы. Большой пул более доступной LPDDR5X может сделать локальный запуск крупных языковых моделей проще для серверов и рабочих станций.
Контекст и вывод
Intel пока не раскрыла цену, точные конфигурации поставки и сроки доступности, поэтому сравнивать D-Series с готовыми ускорителями по экономике рано. Главный сигнал рынка — борьба смещается от одной только скорости вычислений к объёму памяти, энергоэффективности и удобству размещения модели.