Плата за $8 позволила превратить видеокарту Nvidia с 8 ГБ доступной памяти в ускоритель уровня A100 с 80 ГБ памяти
Девушка-энтузиаст под ником Kate смогла превратить майнинговую видеокарту Nvidia CMP 170HX с 8 ГБ памяти в ускоритель уровня A100 с 80 ГБ видеопамяти HBM2e. Для этого ей пришлось изменить программную конфигурацию и обойти аппаратные ограничения GPU.
В основе обеих карт лежит графический процессор GA100. Nvidia отключает часть его вычислительных блоков и памяти с помощью электронных предохранителей eFuse. В CMP 170HX значительная часть ресурсов недоступна, хотя физически память присутствует на плате.
Сначала Kate воспользовалась программой CMPUnlocker, снимающей часть ограничений майнинговых карт. Но этого оказалось недостаточно, поэтому она разработала дополнительную плату на микроконтроллере STM32G4 стоимостью около $8.
С её помощью исследовательница создавала кратковременные скачки напряжения и добилась возможности изменять состояние предохранителей eFuse. Это позволило разблокировать ранее отключённые ресурсы GPU.
В итоге девять протестированных карт получили доступ ко всем 80 ГБ памяти, ещё одна — к 64 ГБ. Разблокировка вычислительных блоков обеспечила примерно на 20% более высокую производительность в операциях FP16 по сравнению со стандартной A100. На одной из карт также удалось восстановить поддержку PCIe 4.0, NVLink и Multi-Instance GPU.
По данным Tom's Hardware, CMP 170HX стоит около $2500–3000, а вот полноценный ускоритель Nvidia A100 с 80 ГБ памяти может обходиться в $20 000 и более.