Синтетические тесты показывают, что эти карты в 10 раз медленнее старых игровых. Но на практике с LLM они оказались на уровне RTX 2060/3060. Эта статья для тех, кто хочет сделать дешёвый LLM-сервер и любителей хардкорных экспериментов.
По ходу мы рассмотрим:
-
теоретические данные
-
условия для работы этих GPU
-
результаты практических тестов производительности
-
объяснение полученных противоречий
-
советы по небольшим доработкам (охлаждение, PCIexpress)
-
сравнение друг с другом и другими GPU
Введение
