Новый способ дистилляции локальных ИИ-моделей: OPTD?

Описание: Как дистиллировать небольшую локальную модель LLM (с OPTD).
Внутри трансформера: новый способ дистилляции локальных моделей ИИ.

Все права принадлежат авторам:
Дистилляция перехода на основе политики
Руньян Ю1, Юнци Ли1†, Тьечжэн Ю2, Вэньцзе Ли1
из
1 Гонконгский политехнический университет
2 Huawei Technologies Ltd.
[email protected], [email protected]

#airesearch
#aiexplaiend
#aitechnology