Tesla закупила 10 000 ускорителей Nvidia H100 и создала на их основе суперкомпьютер для обучения своего автопилота

У компании Tesla есть собственные чипы как для автомобильных компьютеров, так и для суперкомпьютеров, однако мимо ускорителей Nvidia H100 компания пройти не смогла. Как сообщается, Tesla в понедельник запустила кластер, состоящий из 10 000 ускорителей H100. 

^[1]

Кластер будет использоваться для обучения автопилота машин Tesla.  

Кластер Tesla AI 10k H100 заработает в понедельник. Благодаря реальному видеообучению у нас могут быть самые большие наборы обучающих данных в мире, емкость кэша превышает 200 ПБ — на порядки больше, чем у LLM 

инженер Tesla Тим Заман (Tim Zaman) 

Пиковая производительность такого суперкомпьютера составит 340 PFLOPS (PF64), а если говорить о вычислениях INT8, то речь идёт уже почти о 40 эксафлопс! Ориентируясь на вычисления с двойной точностью, можно говорить о том, что система Tesla является четвёртым по производительности суперкомпьютером в мире. 

От планов по запуску системы Dojo компания отказываться не собирается, но такой суперкомпьютер заработает когда-то позже.  

Источник ^[2]