Jim Kellerjevo podjetje za čipe Tenstorrent je izdalo svoj procesor Wormhole naslednje generacije za delovne obremenitve umetne inteligence, za katerega pričakujejo, da bo ponujal dobro zmogljivost po dostopni ceni.Podjetje trenutno ponuja dve dodatni kartici PCIe, ki lahko sprejmeta enega ali dva procesorja Wormhole, ter delovne postaje TT-LoudBox in TT-QuietBox za razvijalce programske opreme. Vse današnje objave so namenjene razvijalcem, ne tistim, ki uporabljajo plošče Wormhole za komercialne delovne obremenitve.
»Vedno je zadovoljujoče, ko razvijalcem ponudimo več naših izdelkov. Sistemi za razvoj izdaj, ki uporabljajo naše kartice Wormhole™, lahko razvijalcem pomagajo pri skaliranju in razvoju programske opreme za umetno inteligenco z več čipi,« je dejal Jim Keller, izvršni direktor podjetja Tenstorrent.Poleg te predstavitve smo navdušeni nad napredkom, ki ga dosegamo pri izdelavi in zagonu našega izdelka druge generacije, Blackhole.«
Vsak procesor Wormhole vsebuje 72 jeder Tensix (pet od njih podpira jedra RISC-V v različnih podatkovnih formatih) in 108 MB SRAM-a, kar zagotavlja 262 FP8 TFLOPS pri 1 GHz s toplotno močjo 160 W. Enočipna kartica Wormhole n150 je opremljena z 12 GB video pomnilnika GDDR6 in ima pasovno širino 288 GB/s.
Procesorji Wormhole zagotavljajo prilagodljivo skalabilnost za zadovoljevanje različnih potreb delovnih obremenitev. V standardni nastavitvi delovne postaje s štirimi karticami Wormhole n300 je mogoče procesorje združiti v eno samo enoto, ki se v programski opremi prikaže kot enotno, široko jedrno omrežje Tensix. Ta konfiguracija omogoča pospeševalniku, da obravnava isto delovno obremenitev, jo razdeli med štiri razvijalce ali hkrati izvaja do osem različnih modelov umetne inteligence. Ključna značilnost te skalabilnosti je, da se lahko izvaja lokalno brez potrebe po virtualizaciji. V okolju podatkovnega centra bodo procesorji Wormhole uporabljali PCIe za razširitev znotraj stroja ali Ethernet za zunanjo razširitev.
Kar zadeva zmogljivost, je Tenstorrentova enočipna kartica Wormhole n150 (72 jeder Tensix, frekvenca 1 GHz, 108 MB SRAM, 12 GB GDDR6, pasovna širina 288 GB/s) dosegla 262 FP8 TFLOPS pri 160 W, medtem ko dvočipna plošča Wormhole n300 (128 jeder Tensix, frekvenca 1 GHz, 192 MB SRAM, skupaj 24 GB GDDR6, pasovna širina 576 GB/s) zagotavlja do 466 FP8 TFLOPS pri 300 W.
Da bi 300 W s 466 FP8 TFLOPS postavili v kontekst, bomo to primerjali s tem, kar ponuja vodilni na trgu umetne inteligence, Nvidia, pri tej toplotni zasnovi. Nvidijin A100 ne podpira FP8, podpira pa INT8, z največjo zmogljivostjo 624 TOPS (1.248 TOPS pri redkem načinu delovanja). Za primerjavo, Nvidijin H100 podpira FP8 in doseže največjo zmogljivost 1.670 TFLOPS pri 300 W (3.341 TFLOPS pri redkem načinu delovanja), kar se bistveno razlikuje od Tenstorrentovega Wormhole n300.
Vendar pa obstaja ena velika težava. Tenstorrentov Wormhole n150 se prodaja za 999 dolarjev, medtem ko se n300 prodaja za 1399 dolarjev. Za primerjavo, ena sama grafična kartica Nvidia H100 se prodaja za 30.000 dolarjev, odvisno od količine. Seveda ne vemo, ali lahko štirje ali osem procesorjev Wormhole dejansko zagotovijo zmogljivost enega samega H300, vendar sta njuna TDP 600 W oziroma 1200 W.
Poleg kartic Tenstorrent ponuja tudi vnaprej sestavljene delovne postaje za razvijalce, vključno s štirimi karticami n300 v cenovno ugodnejšem TT-LoudBoxu na osnovi Xeona z aktivnim hlajenjem in naprednem TT-QuietBoxu s funkcijo tekočega hlajenja Xiaolong na osnovi EPYC.
Čas objave: 29. julij 2024