Зачем покупать дорогую оперативку, если есть SSD? AMD представила технологию MEXT, которая способна заменить до 75% ОЗУ в серверах флеш-накопителями
AMD представила технологию MEXT, которая позволяет использовать недорогую флеш-память в качестве расширения оперативной памяти серверов на процессорах EPYC. Разработка призвана снизить зависимость дата-центров от дефицитной и дорожающей DRAM, стоимость которой, по оценкам компании, уже составляет до 75% расходов на серверное оборудование.
Идея заключается в том, чтобы перенести часть нагрузки с оперативной памяти на обычные NVMe-накопители. Флеш-память примерно вдвое дешевле DRAM и потребляет в 30 раз меньше энергии, но при этом примерно в 500 раз медленнее. Чтобы компенсировать эту разницу, AMD использует алгоритмы искусственного интеллекта, которые анализируют обращения к данным и предсказывают, какая информация скоро понадобится процессору.
Технология оставляет часто используемые данные в быстрой DRAM, а редко востребованные данные переносит на флеш-накопитель. Если алгоритм прогнозирует, что определённая информация скоро понадобится, он заранее возвращает её в оперативную память. Таким образом, для программ и операционной системы дополнительная флеш-память должна выглядеть как расширение привычной RAM.
В состав MEXT входят специальный драйвер для Linux, ИИ-движок и инструмент RAM View для мониторинга использования памяти. Алгоритмы работают непосредственно на одном ядре процессора EPYC, не требуют отдельного графического ускорителя и способны обучаться менее чем за секунду. AMD также утверждает, что внедрение технологии не требует изменений в аппаратной конфигурации или программном обеспечении серверов.
По данным компании, MEXT позволяет сократить потребление DRAM на 20–75%, сохраняя близкую к исходной производительность в ряде задач. В отдельных тестах система с 50% оперативной памяти и 50% флеш-памяти обеспечивала до 99% производительности полной DRAM-конфигурации. Для задач проектирования микросхем и работы с ИИ компания приводит другие результаты: например, сочетание 25% DRAM и 75% MEXT в некоторых сценариях обеспечивало до 3,5 раза более высокую производительность в расчёте на доллар, потраченный на оперативную память.
AMD уже начала внедрение MEXT в собственную серверную инфраструктуру и готовит технологию к более широкому распространению. Компания оценивает потенциальную экономию на первоначальном развёртывании в 83% по сравнению с использованием одной DRAM: при масштабировании с 145 до 2000 серверов к 2027 году это позволит избежать расходов примерно на $4,9 млн. В дальнейшем AMD рассматривает возможность применения разработки не только в дата-центрах, но и в пользовательских компьютерах.