Jim Keller Chip Company TenStorrent je izdal svoj procesor Wormhole naslednje generacije za delovne obremenitve AI, za katerega pričakuje, da bo ponudil dobro zmogljivost po dostopni ceni.Podjetje trenutno ponuja dve dodatni kartici PCIe, ki lahko sprejmeta eno ali dve procesorji črvičkov, pa tudi TT-LODBOX in TT-QUIETBOX WORKSTIONS za razvijalce programske opreme. Vse današnje objave so namenjene razvijalcem, ne pa na tiste, ki uporabljajo deske za črvico za komercialne delovne obremenitve.
"Vedno je razveseljivo, če v roke razvijalcev spravite več naših izdelkov. Sprostite razvojne sisteme s pomočjo naših kartic Wormhole ™ lahko pomagajo razvijalcem, da pri lestvici in razvijejo programsko opremo AI z več čipi," je dejal Jim Keller, izvršni direktor Tenstorent.Poleg tega začetka smo navdušeni nad napredkom, ki ga dosegamo s trakom in vklopom našega izdelka druge generacije, Blackhole. "
Vsak procesor iz črvičkov vsebuje 72 jeder Tensix (od katerih pet podpira jedra RISC-V v različnih oblikah podatkov) in 108 MB SRAM, ki dovaja 262 FP8 TFLOPS pri 1 GHz s toplotno oblikovalsko močjo 160 W. Kartica z enim čipom Wormhole N150 je opremljena z 12 GB GDDR6 video pomnilnika in ima pasovno širino 288 GB/s.
Procesorji iz črvičk zagotavljajo prilagodljivo razširljivost za zadovoljevanje raznolikih potreb po delovnih obremenitvah. V standardni nastavitvi delovne postaje s štirimi karticami Wormhole N300 lahko procesorje združimo v eno enoto, ki se v programski opremi pojavi kot poenoteno, široko tentix osnovnega omrežja. Ta konfiguracija omogoča pospeševalniku, da obvlada isto delovno obremenitev, razdeli med štirimi razvijalci ali hkrati izvaja do osem različnih modelov AI. Ključna značilnost te razširljivosti je, da lahko deluje lokalno brez potrebe po virtualizaciji. V okolju podatkovnih centrov bodo procesorji črvičk uporabljali PCIe za širitev znotraj stroja ali Ethernet za zunanjo širitev.
Kar zadeva zmogljivost, je Tenstorent-ova kartica z enim čipom Wormhole N150 (72 tenzix jedra, 1 GHz frekvenca, 108 MB SRAM, 12 GB GDDR6, 288 GB/s pasovno širino) dosegla 262 FP8 Tflops pri 160W, medtem ko je 1 GHz Wormhole N300, 288 GB- Agregirani 24 GB GDDR6, 576 GB/S pasovna širina) prinaša do 466 FP8 TFLOPS pri 300W.
Da bi v kontekst postavili 300 W od 466 FP8 TFLOPS, ga bomo primerjali s tistim, kar ponuja vodja trga AI Nvidia pri tej toplotni moči. Nvidia's A100 ne podpira FP8, vendar podpira INT8, z največjo zmogljivostjo 624 vrhov (1,248 vrhov, ko je redko). Za primerjavo, NVIDIA H100 podpira FP8 in dosega največjo zmogljivost 1.670 TFLOPS pri 300 W (3.341 TFLOPS v redkih), kar se bistveno razlikuje od Tenstorentove Wormhole N300.
Vendar obstaja ena velika težava. Tenstorent's Wormhole N150 na drobno za 999 dolarjev, N300 pa za 1.399 dolarjev. Za primerjavo, ena sama grafična kartica NVIDIA H100 na drobno za 30.000 dolarjev, odvisno od količine. Seveda ne vemo, ali lahko štirje ali osem procesorjev črvičkov dejansko dosežejo delovanje enega samega H300, vendar so njihovi TDP 600W oziroma 1200 W.
Poleg kartic TenStorent ponuja vnaprej izdelane delovne postaje za razvijalce, vključno s 4 karticami N300 v cenovno ugodnejših TT-Loudbox na osnovi XEON z aktivnim hlajenjem in naprednim TT-Quietboxom s funkcijo tekočega hlajenja na osnovi EPYC).
Čas objave: julij-29-2024