Podjetje za čipe Tenstorrent, ki ga vodi Jim Keller, je izdalo svojo naslednjo generacijo procesorja Wormhole za delovne obremenitve umetne inteligence, za katere pričakuje, da bodo nudile dobro zmogljivost po dostopni ceni.Podjetje trenutno ponuja dve dodatni kartici PCIe, ki lahko sprejmeta enega ali dva procesorja Wormhole, kot tudi delovne postaje TT-LoudBox in TT-QuietBox za razvijalce programske opreme. Vse današnje objave so namenjene razvijalcem, ne tistim, ki uporabljajo plošče Wormhole za komercialne delovne obremenitve.
»Vedno je razveseljivo dobiti več naših izdelkov v roke razvijalcev. Izdaja razvojnih sistemov z uporabo naših kartic Wormhole™ lahko pomaga razvijalcem pri prilagajanju in razvoju programske opreme AI z več čipi,« je dejal Jim Keller, izvršni direktor Tenstorrenta.Poleg tega lansiranja smo navdušeni, da vidimo napredek, ki ga dosegamo s snemanjem in vklopom naše druge generacije izdelka Blackhole.«
Vsak procesor Wormhole vsebuje 72 jeder Tensix (od katerih jih pet podpira jedra RISC-V v različnih formatih podatkov) in 108 MB SRAM-a, ki zagotavlja 262 FP8 TFLOPS pri 1 GHz s toplotno zasnovo moči 160 W. Kartica Wormhole n150 z enim čipom je opremljena z 12 GB video pomnilnika GDDR6 in ima pasovno širino 288 GB/s.
Procesorji črvine zagotavljajo prilagodljivo razširljivost za izpolnjevanje različnih potreb delovnih obremenitev. V standardni postavitvi delovne postaje s štirimi karticami Wormhole n300 je mogoče procesorje združiti v eno samo enoto, ki se v programski opremi prikaže kot enotno široko jedrno omrežje Tensix. Ta konfiguracija omogoča, da pospeševalnik obvlada enako delovno obremenitev, razdeljeno med štiri razvijalce ali zažene do osem različnih modelov AI hkrati. Ključna značilnost te razširljivosti je, da lahko deluje lokalno brez potrebe po virtualizaciji. V okolju podatkovnega centra bodo procesorji Wormhole uporabljali PCIe za razširitev znotraj stroja ali Ethernet za zunanjo širitev.
Kar zadeva zmogljivost, je Tenstorrentova kartica Wormhole n150 z enim čipom (72 jeder Tensix, frekvenca 1 GHz, 108 MB SRAM, 12 GB GDDR6, pasovna širina 288 GB/s) dosegla 262 FP8 TFLOPS pri 160 W, medtem ko je plošča Wormhole n300 z dvojnim čipom (128 jeder Tensix, frekvenca 1 GHz, 192 MB SRAM, združenih 24 GB GDDR6, pasovna širina 576 GB/s) zagotavlja do 466 FP8 TFLOPS pri 300 W.
Da bi 300 W od 466 FP8 TFLOPS postavili v kontekst, ga bomo primerjali s tistim, kar Nvidia, vodilna na trgu umetne inteligence, ponuja pri tej moči toplotne zasnove. Nvidijin A100 ne podpira FP8, podpira pa INT8 z največjo zmogljivostjo 624 TOPS (1248 TOPS, ko je redek). Za primerjavo, Nvidijin H100 podpira FP8 in doseže najvišjo zmogljivost 1.670 TFLOPS pri 300 W (3.341 TFLOPS pri redkem), kar se bistveno razlikuje od Tenstorrentovega Wormhole n300.
Vendar pa obstaja ena velika težava. Tenstorrentov Wormhole n150 se prodaja za 999 $, medtem ko se n300 prodaja za 1399 $. Za primerjavo, ena grafična kartica Nvidia H100 se prodaja za 30.000 USD, odvisno od količine. Seveda ne vemo, ali lahko štirje ali osem procesorjev Wormhole dejansko zagotovijo zmogljivost enega H300, vendar je njihova TDP 600 W oziroma 1200 W.
Poleg kartic Tenstorrent ponuja že izdelane delovne postaje za razvijalce, vključno s 4 karticami n300 v cenovno ugodnejšem TT-LoudBoxu na osnovi Xeon z aktivnim hlajenjem in naprednim TT-QuietBoxom s funkcijo tekočinskega hlajenja Xiaolong na osnovi EPYC).
Čas objave: 29. julij 2024