Модули DRAM на базе PIM

Samsung расширяет возможности обработки данных в памяти

Интеграция HBM-PIM с системой ускорителя Xilinx Alveo AI повысит
общую производительность системы в 2,5 раза при одновременном снижении энергопотребления более чем на 60%.

Архитектура PIM будет широко развернута за пределами HBM,
включая основные модули DRAM и мобильную память.

Компания Samsung Electronics, мировой лидер в области передовых технологий памяти, сегодня продемонстрировала свои последние достижения в области технологии обработки в памяти (PIM) на Hot Chips 33 – ведущей конференции по полупроводникам, на которой ежегодно представляются наиболее заметные инновации в области микропроцессоров и ИС. Разоблачения Samsung включают первую успешную интеграцию своей памяти с высокой пропускной способностью с поддержкой PIM (HBM-PIM) в коммерческую систему ускорителя и расширение приложений PIM для включения модулей DRAM и мобильной памяти, что ускорило переход к конвергенции памяти и логики.

Интеграция HBM-PIM с системой ускорителя Xilinx Alveo AI

Первая интеграция HBM-PIM в ускоритель искусственного интеллекта

В феврале Samsung представила первый в отрасли HBM-PIM (Aquabolt-XL), который включает функцию обработки искусственного интеллекта в HBM2 Aquabolt от Samsung для повышения скорости обработки данных в суперкомпьютерах и приложениях искусственного интеллекта. С тех пор HBM-PIM был протестирован в ускорителе Xilinx Virtex Ultrascale + (Alveo) AI, где он обеспечил почти 2,5-кратный прирост производительности системы, а также снижение энергопотребления более чем на 60%.

«HBM-PIM – это первое в отрасли решение памяти, адаптированное для ИИ, которое тестируется в клиентских системах AI-ускорителей и демонстрирует огромный коммерческий потенциал», – сказал Нам Сунг Ким, старший вице-президент подразделения DRAM Product & Technology в Samsung Electronics. «Благодаря стандартизации технологии приложения станут многочисленными, расширяясь до HBM3 для суперкомпьютеров следующего поколения и приложений искусственного интеллекта, и даже до мобильной памяти для искусственного интеллекта на устройстве, а также для модулей памяти, используемых в центрах обработки данных».

«Xilinx сотрудничает с Samsung Electronics, чтобы предоставить высокопроизводительные решения для центров обработки данных, сетей и приложений обработки сигналов в реальном времени, начиная с семейства Virtex UltraScale + HBM, и недавно представил нашу новую захватывающую серию продуктов Versal HBM», – сказал Арун Варадараджан. Раджагопал, старший директор по планированию продуктов в Xilinx, Inc. «Мы рады продолжить это сотрудничество с Samsung, поскольку мы помогаем оценивать системы HBM-PIM на предмет их потенциала для достижения значительного повышения производительности и энергоэффективности в приложениях искусственного интеллекта».

Модули DRAM на базе PIM

Модуль DIMM ускорения (AXDIMM) обеспечивает обработку самого модуля DRAM, сводя к минимуму перемещение больших объемов данных между ЦП и DRAM, чтобы повысить энергоэффективность систем ускорителей AI. Благодаря механизму искусственного интеллекта, встроенному в буферный чип, AXDIMM может выполнять параллельную обработку нескольких рангов памяти (наборов микросхем DRAM) вместо доступа только к одному рангу за раз, что значительно повышает производительность и эффективность системы. Поскольку модуль может сохранять свой традиционный форм-фактор DIMM, модуль AXDIMM упрощает замену без необходимости модификации системы. В настоящее время тестируется на серверах клиентов, AXDIMM может предложить примерно вдвое большую производительность в рекомендательных приложениях на основе искусственного интеллекта и снижение энергопотребления в масштабе всей системы на 40%.

«SAP постоянно сотрудничает с Samsung над их новыми и развивающимися технологиями памяти, чтобы обеспечить оптимальную производительность SAP HANA и ускорить работу базы данных», – сказал Оливер Ребхольц, руководитель отдела исследований и инноваций HANA в SAP. «Основываясь на прогнозах производительности и возможных сценариях интеграции, мы ожидаем значительного повышения производительности системы управления базами данных в памяти (IMDBMS) и повышения энергоэффективности за счет дезагрегированных вычислений на AXDIMM. SAP планирует продолжить сотрудничество с Samsung в этой области».

Мобильная память, которая переносит ИИ из центра обработки данных на устройство

Технология мобильной памяти Samsung LPDDR5-PIM может обеспечить независимые возможности искусственного интеллекта без подключения к центру обработки данных. Тесты моделирования показали, что LPDDR5-PIM может более чем вдвое работать, снижая потребление энергии более чем на 60% при использовании в таких приложениях, как распознавание голоса, перевод и чат-бот.

Энергия экосистемы

Samsung планирует расширить свой портфель памяти ИИ, сотрудничая с другими лидерами отрасли над завершением стандартизации платформы PIM в первой половине 2022 года. Компания также продолжит развивать высоконадежную экосистему PIM для обеспечения широкого применения на рынке памяти.