На выставке SC26 компания продемонстрировала гибридную систему с GPU AMD, в которой языковая модель использует оптические вычисления для замены одной из ресурсоёмких частей механизма внимания
Немецкая компания Q.ANT представила фотонный процессор NPU Gen 2+, в котором большая языковая модель использует оптическое преобразование Фурье. Демонстрация состоялась на выставке SC26: немецкая компания объединила фотонный процессор NPU Gen 2+ с графическим процессором AMD.
Источник изображения: Q.ANT
Ключевая особенность системы — преобразование Фурье выполняется непосредственно с помощью света, а не традиционными электронными вычислениями. Q.ANT заявляет, что это первое применение оптического преобразования Фурье при работе большой языковой модели.
Компания показала совместную работу фотонного процессора и GPU, но в исходном сообщении нет сравнительных показателей производительности или энергопотребления. Демонстрация подтверждает работоспособность такого подхода, но не доказывает его превосходство над традиционными вычислительными системами.