Pausahaan chip anu dipingpin ku Jim Keller, Tenstorrent, parantos ngarilis prosesor Wormhole generasi salajengna pikeun beban kerja AI, anu dipiharep bakal nawiskeun kinerja anu saé kalayan harga anu terjangkau.Pausahaan ayeuna nawiskeun dua kartu PCIe tambahan anu tiasa nampung hiji atanapi dua prosesor Wormhole, ogé workstation TT-LoudBox sareng TT-QuietBox pikeun pamekar parangkat lunak. Sadaya pengumuman dinten ieu ditujukeun pikeun pamekar, sanés anu nganggo papan Wormhole pikeun beban kerja komérsial.
"Salawasna nyugemakeun pisan upami langkung seueur produk kami tiasa disalurkeun ka para pamekar. Sistem pamekaran rilis nganggo kartu Wormhole™ kami tiasa ngabantosan pamekar ningkatkeun skala sareng ngembangkeun parangkat lunak AI multi-chip," saur Jim Keller, CEO Tenstorrent.Salian ti peluncuran ieu, kami bungah ningali kamajuan anu kami lakukeun kalayan ngaluarkeun pita sareng ningkatkeun daya produk generasi kadua kami, Blackhole.
Unggal prosesor Wormhole ngandung 72 inti Tensix (lima di antarana ngadukung inti RISC-V dina rupa-rupa format data) sareng 108 MB SRAM, anu ngahasilkeun 262 FP8 TFLOPS dina 1 GHz kalayan kakuatan desain termal 160W. Kartu Wormhole n150 chip tunggal ieu dilengkepan ku mémori vidéo GDDR6 12 GB sareng gaduh bandwidth 288 GB/s.
Prosesor Wormhole nyayogikeun skalabilitas anu fléksibel pikeun minuhan kabutuhan beban kerja anu rupa-rupa. Dina setelan workstation standar kalayan opat kartu Wormhole n300, prosesor tiasa digabungkeun kana hiji unit anu muncul dina parangkat lunak salaku jaringan inti Tensix anu ngahiji sareng lega. Konfigurasi ieu ngamungkinkeun akselerator pikeun nanganan beban kerja anu sami, dibagi antara opat pamekar atanapi ngajalankeun dugi ka dalapan modél AI anu béda sacara simultan. Fitur konci tina skalabilitas ieu nyaéta tiasa dijalankeun sacara lokal tanpa peryogi virtualisasi. Dina lingkungan pusat data, prosesor Wormhole bakal nganggo PCIe pikeun ékspansi di jero mesin, atanapi Ethernet pikeun ékspansi éksternal.
Dina hal kinerja, kartu Wormhole n150 chip tunggal Tenstorrent (72 inti Tensix, frékuénsi 1 GHz, SRAM 108 MB, GDDR6 12 GB, bandwidth 288 GB/s) ngahontal 262 FP8 TFLOPS dina 160W, sedengkeun papan Wormhole n300 chip ganda (128 inti Tensix, frékuénsi 1 GHz, SRAM 192 MB, agrégat 24 GB GDDR6, bandwidth 576 GB/s) ngahasilkeun dugi ka 466 FP8 TFLOPS dina 300W.
Pikeun ngaitkeun 300W tina 466 FP8 TFLOPS kana kontéksna, urang bakal ngabandingkeunana sareng naon anu ditawarkeun ku pamimpin pasar AI Nvidia dina kakuatan desain termal ieu. Nvidia A100 henteu ngadukung FP8, tapi ngadukung INT8, kalayan kinerja puncak 624 TOPS (1.248 TOPS nalika jarang). Sabalikna, Nvidia H100 ngadukung FP8 sareng ngahontal kinerja puncak 1.670 TFLOPS dina 300W (3.341 TFLOPS nalika jarang), anu béda sacara signifikan ti Tenstorrent Wormhole n300.
Nanging, aya hiji masalah utama. Wormhole n150 ti Tenstorrent dijual kalayan harga $999, sedengkeun n300 dijual kalayan harga $1.399. Salaku babandingan, hiji kartu grafis Nvidia H100 dijual kalayan harga $30.000, gumantung kana kuantitasna. Tangtosna, urang henteu terang naha opat atanapi dalapan prosesor Wormhole saleresna tiasa ngahasilkeun kinerja hiji H300, tapi TDP-na masing-masing nyaéta 600W sareng 1200W.
Salian ti kartu, Tenstorrent nawiskeun workstation anu tos diwangun sateuacanna pikeun pamekar, kalebet 4 kartu n300 dina TT-LoudBox basis Xeon anu langkung mirah kalayan pendinginan aktif, sareng TT-QuietBox canggih kalayan fungsi pendinginan cair (Xiaolong) basis EPYC.
Waktos posting: 29-Jul-2024