Ornith против Claude: неужели «коробка» за $700 действительно так хороша? Я проверил

Описание: Клод Сонне против домашнего компьютера с ИИ за 700 долларов: система с четырьмя видеокартами, собранная из серверных карт Tesla P100 2016 года выпуска и работающая на процессоре 35B, опередила Клода Сонне в сложном математическом тесте.

Что в видео:
Компьютер за 700 долларов, который победил Клода Сонне в сложных математических тестах (реальные чеки, без центра обработки данных)
Четыре Tesla P100 2016 года, которые все еще можно купить
Почему модель 35B работает быстро на этом оборудовании
Ornith в трех фактах
Где он сравнялся с передовыми технологиями в сложных математических тестах
Модель 9B, занявшая место из 29 в чистом тесте
Момент, когда я поймал своего собственного проверяющего на том, что он неправильно отметил правильные ответы

Я @the_contextian. Каждый вечер я разбираю одну реальную историю об ИИ, чтобы вы всегда были в курсе событий в этой области — подпишитесь на ежедневную сводку «Вечерний контекст».

#claude #localllm #aibenchmarks #ornith #homelab