Nvidia и SK Hynix хотят создать AI SSD специально для обучения ИИ на серверах

По информации корейских источников, NVIDIA и SK hynix работают над совместным проектом, направленным на разработку нового типа хранилища, предназначенного для искусственного интеллекта. Внутренний проект с этикеткой Хранение Далее должно привести к созданию так называемого AI SSD, который будет оптимизирован специально для вывода ИИ, то есть этапа, когда уже обученные модели используются в реальных приложениях.

Сдвиг в сторону логического вывода меняет требования к оборудованию. Хотя в обучении преобладают вычисления и память типа HBM с высокой пропускной способностью, быстрый и непрерывный доступ к огромному количеству параметров модели является ключом к выводу. Сегодня невозможно эффективно хранить их исключительно в HBM или классической DRAM, и именно здесь должно быть создано место для нового типа хранилища, которое будет выступать в роли промежуточного слоя между памятью и классическим SSD.

По имеющейся информации, SK Hynix планирует представить первый прототип уже к концу следующего года. Окончательное решение может появиться примерно в 2027 году. Говорят о производительности до 100 миллионов операций ввода-вывода в секунду, что значительно больше, чем предлагают сегодняшние корпоративные SSD.

Целью является достижение высокой пропускной способности и снижения энергопотребления благодаря новой архитектуре памяти и контроллеров NAND, при этом NVIDIA должна тесно сотрудничать в проекте, особенно с точки зрения интеграции в инфраструктуру искусственного интеллекта.

Конечно, ничто из этого не улучшит доступность памяти NAND.