Компания DFRobot представила DX-M1 — компактный ИИ-ускоритель в формате M.2, рассчитанный на локальную обработку данных без мощной видеокарты и обращения к облачным сервисам. Устройство обеспечивает производительность до 25 TOPS при вычислениях INT8, потребляя всего 2–5 Вт. Стоимость модуля составляет $140.
DX-M1 имеет 4 ГБ собственной оперативной памяти LPDDR5, предназначенной для хранения весов нейросетей, а также 128 ГБ флеш-памяти QSPI NAND для прошивки и локального размещения скомпилированных моделей. Для подключения используется интерфейс PCIe 3.0. Ускоритель поддерживает PyTorch, TensorFlow, TensorFlow Lite и ONNX через SDK DFRobot DXNN. Среди подходящих задач производитель выделяет распознавание объектов, анализ видеопотока, навигацию роботов и автоматизированный визуальный контроль.
Однако рассчитывать на запуск крупных языковых моделей непосредственно на DX-M1 не стоит. Четырёх гигабайт памяти недостаточно для работы с тяжёлыми LLM —устройство предназначено прежде всего для запуска уже обученных моделей, а не для их обучения.
Есть и ещё один нюанс: модуль занимает слот M.2, который можно было бы использовать для установки обычного NVMe-накопителя. Собственная флеш-память DX-M1 не предназначена для хранения операционной системы и не заменяет SSD. Поэтому новинка ориентирована прежде всего на компактные компьютеры, промышленные системы и робототехнику, которым требуется энергоэффективное ускорение задач компьютерного зрения.
