D'Chipfirma Tenstorrent, déi vum Jim Keller gefouert gëtt, huet säi Wormhole-Prozessor vun der nächster Generatioun fir KI-Workloads erausbruecht, mat deem se erwaart, datt e gutt Leeschtung zu engem bezuelbare Präis bitt.D'Firma bitt de Moment zwou zousätzlech PCIe Kaarten un, déi een oder zwee Wormhole Prozessoren ënnerbrénge kënnen, souwéi TT-LoudBox an TT-QuietBox Workstations fir Softwareentwéckler. All d'Ukënnegunge vun haut sinn un Entwéckler geduecht, net un déi, déi Wormhole Boards fir kommerziell Workloads benotzen.
„Et ass ëmmer erfreelech, méi vun eise Produkter an d'Hänn vun Entwéckler ze kréien. Release-Entwécklungssystemer, déi eis Wormhole™ Kaarte benotzen, kënnen den Entwéckler hëllefen, Multi-Chip KI-Software ze skaléieren an z'entwéckelen“, sot de Jim Keller, CEO vun Tenstorrent.Nieft dësem Start freeë mir eis iwwer de Fortschrëtt, deen mir mam Ausschalten an dem Opstarten vun eisem Produkt vun der zweeter Generatioun, Blackhole, maachen.
All Wormhole-Prozessor enthält 72 Tensix-Kären (fënnef dovun ënnerstëtzen RISC-V-Kären a verschiddene Datenformater) an 108 MB SRAM, wat 262 FP8 TFLOPS bei 1 GHz mat enger thermescher Designleistung vun 160 W liwwert. Déi Single-Chip Wormhole n150 Kaart ass mat 12 GB GDDR6-Videospeicher ausgestatt an huet eng Bandbreet vun 288 GB/s.
Wormhole-Prozessoren bidden flexibel Skalierbarkeet fir déi verschidden Ufuerderunge vun de Workloads gerecht ze ginn. An engem Standard-Workstation-Setup mat véier Wormhole n300 Kaarte kënnen d'Prozessoren zu enger eenzeger Eenheet kombinéiert ginn, déi an der Software als eenheetlecht, breet Tensix-Kärnetz erschéngt. Dës Konfiguratioun erlaabt dem Accelerator déiselwecht Workload ze handhaben, tëscht véier Entwéckler opzedeelen oder bis zu aacht verschidden KI-Modeller gläichzäiteg auszeféieren. E Schlësselmerkmal vun dëser Skalierbarkeet ass, datt se lokal lafe kann, ouni datt Virtualiséierung néideg ass. An engem Datacenter-Ëmfeld benotzen Wormhole-Prozessoren PCIe fir d'Expansioun bannent der Maschinn oder Ethernet fir extern Expansioun.
Wat d'Performance ugeet, huet d'Single-Chip Wormhole n150 Kaart vun Tenstorrent (72 Tensix Kären, 1 GHz Frequenz, 108 MB SRAM, 12 GB GDDR6, 288 GB/s Bandbreet) 262 FP8 TFLOPS bei 160W erreecht, während d'Dual-Chip Wormhole n300 Kaart (128 Tensix Kären, 1 GHz Frequenz, 192 MB SRAM, aggregéiert 24 GB GDDR6, 576 GB/s Bandbreet) bis zu 466 FP8 TFLOPS bei 300W liwwert.
Fir 300W vun 466 FP8 TFLOPS an de Kontext ze setzen, vergläiche mir et mat deem, wat den AI-Maartleader Nvidia bei dëser thermescher Designleistung ubitt. Den Nvidia A100 ënnerstëtzt net FP8, awer en ënnerstëtzt INT8, mat enger Héchstleistung vun 624 TOPS (1.248 TOPS bei Spuersamkeet). Am Verglach ënnerstëtzt den Nvidia H100 FP8 an erreecht eng Héchstleistung vun 1.670 TFLOPS bei 300W (3.341 TFLOPS bei Spuersamkeet), wat sech wesentlech vum Tenstorrent sengem Wormhole n300 ënnerscheet.
Et gëtt awer ee grousse Problem. Den Tenstorrent Wormhole n150 kascht 999 Dollar, während den n300 1.399 Dollar kascht. Am Verglach kascht eng eenzeg Nvidia H100 Grafikkaart 30.000 Dollar, ofhängeg vun der Quantitéit. Natierlech wësse mer net, ob véier oder aacht Wormhole Prozessoren tatsächlech d'Leeschtung vun engem eenzegen H300 liwwere kënnen, awer hir TDPs sinn 600W respektiv 1200W.
Nieft de Kaarte bitt Tenstorrent virgebaute Workstations fir Entwéckler un, dorënner 4 n300 Kaarten an der méi bezuelbarer Xeon-baséierter TT-LoudBox mat aktiver Ofkillung, an der fortgeschrattener TT-QuietBox mat EPYC-baséierter Xiaolong Flëssegkeetskühlfunktioun.
Zäitpunkt vun der Verëffentlechung: 29. Juli 2024