Предварительные испытания на стабильную диффузию SpacemiT K3 RISC-V

Описание: Примечание: Компания SpacemiT провела обзор этого видео и пообещала мне бесплатную плату SpacemiT K3. Я согласился на обзор, поскольку мы все еще находимся на этапе предварительного выпуска. Видео не подвергалось никаким изменениям.

Компания SpacemiT предоставила мне удаленный доступ к системе SpacemiT K3.

Вот дополнительная информация о K3.

https://www.spacemit.com/

8 высокопроизводительных вычислительных ядер X100, максимальная частота 2,4 ГГц, вычислительная мощность 130 KDMIPS
Одноядерный процессор Specint2006 9,0 ГГц

A100 поддерживает параллельные вычисления RVV 1.0 до 1024 бит, стандарты векторной криптографии

Вычислительная мощность ИИ 60 TOPS, поддержка BF16, FP16, FP8, INT8, INT4 и других типов данных

Поддержка RV Hypervisor 1.0, RV AIA, RV IOMMU расширений

Я протестировал stable-diffusion.cpp и OnnxStream.

https://github.com/leejet/stable-diff...

Инструкции по сборке можно посмотреть в этом видео (см. описание):    • Stable-Diffusion.cpp RISC-V  

Пример команды: ./bin/sd -m ../models/v1-5-pruned-emaonly.safetensors -p "a penguin on a surfboard" -s -1 -t 8

K3 SD1.5: 1220 секунд
K1 SD1.5: 5164 секунды

K3 SDXL Turbo: 122 секунды

OnnxStream позволяет запускать Stable Diffusion XL Turbo с занимаемым объемом менее 512 МБ!

https://github.com/vitoplantamura/Onn...

git clone https://github.com/vitoplantamura/Onn...
cd OnnxStream/src
mkdir build
cd build
cmake ..
cmake --build . --config Release

Если вы получили ошибку, связанную с архитектурой, вам необходимо изменить параметр -march с native на rv64gcv в файле CMakeLists.txt.

K3: 2м 21с
K1: 7м 57с

00:00 Вступление
01:25 K3 Stable-Diffusion.cpp
02:07 K1 Stable-Diffusion.cpp
02:42 K1 OnnxStream
03:10 K3 OnnxStream
03:46 K3 Stable Diffusion XL Turbo
04:43 Сгенерированный образ
05:13 Заключительные мысли

Если это видео было полезным, пожалуйста, поставьте лайк, оставьте комментарий и подпишитесь!

Bluesky: https://bsky.app/profile/livinglinux....

#riscv