Perusahaan chip anu dipimpin Jim Keller Tenstorrent parantos ngarilis prosesor Wormhole generasi salajengna pikeun beban kerja AI, anu diperkirakeun nawiskeun kinerja anu saé dina harga anu berpatutan.Perusahaan ayeuna nawiskeun dua kartu PCIe tambahan anu tiasa nampung hiji atanapi dua prosesor Wormhole, ogé workstations TT-LoudBox sareng TT-QuietBox pikeun pamekar software. Sadaya pengumuman dinten ieu ditujukeun pikeun pamekar, sanés anu nganggo papan Wormhole pikeun beban kerja komérsial.
"Ieu salawasna gratifying mun meunang leuwih produk urang kana leungeun pamekar. Ngaleupaskeun sistem pamekaran nganggo kartu Wormhole™ urang tiasa ngabantosan pamekar skala sareng ngembangkeun parangkat lunak AI multi-chip, ”saur Jim Keller, CEO Tenstorrent.Salian peluncuran ieu, kami bungah ningali kamajuan anu urang lakukeun ku pita kaluar sareng kakuatan-up produk generasi kadua urang, Blackhole.
Unggal prosésor Wormhole ngandung 72 inti Tensix (lima diantarana ngadukung inti RISC-V dina sagala rupa format data) sareng 108 MB SRAM, nganteurkeun 262 FP8 TFLOPS dina 1 GHz kalayan kakuatan desain termal 160W. Kartu Wormhole n150 single-chip ieu dilengkepan memori video 12 GB GDDR6 sarta rubakpita 288 GB / s.
Prosesor wormhole nyayogikeun skalabilitas anu fleksibel pikeun nyumponan kabutuhan rupa-rupa beban kerja. Dina pangaturan workstation standar sareng opat kartu Wormhole n300, prosesor tiasa digabungkeun kana hiji unit anu muncul dina parangkat lunak salaku jaringan inti Tensix anu ngahiji. Konfigurasi ieu ngamungkinkeun akselerator pikeun nanganan beban kerja anu sami, pamisah antara opat pamekar atanapi ngajalankeun dugi ka dalapan model AI anu béda sakaligus. Fitur konci tina skalabilitas ieu nyaéta tiasa ngajalankeun sacara lokal tanpa peryogi virtualisasi. Dina lingkungan puseur data, prosesor Wormhole bakal ngagunakeun PCIe pikeun ékspansi jero mesin, atawa Ethernet pikeun ékspansi éksternal.
Dina hal kinerja, Tenstorrent's single-chip Wormhole n150 kartu (72 Tensix cores, 1 frékuénsi GHz, 108 MB SRAM, 12 GB GDDR6, 288 GB / s rubakpita) ngahontal 262 FP8 TFLOPS dina 160W, sedengkeun dual-chip Wormhole n300. (128 inti Tensix, 1 frékuénsi GHz, 192 MB SRAM, aggregated 24 GB GDDR6, 576 GB / rubakpita s) delivers up 466 FP8 TFLOPS pa 300W.
Pikeun nempatkeun 300W tina 466 FP8 TFLOPS kana kontéks, urang bakal ngabandingkeunana sareng naon anu ditawarkeun pamimpin pasar AI Nvidia dina kakuatan desain termal ieu. A100 Nvidia henteu ngadukung FP8, tapi ngadukung INT8, kalayan pagelaran puncak 624 TOPS (1,248 TOPS nalika jarang). Dina ngabandingkeun, H100 Nvidia ngadukung FP8 sareng ngahontal prestasi puncak 1,670 TFLOPS dina 300W (3,341 TFLOPS jarang), anu béda sacara signifikan tina Tenstorrent's Wormhole n300.
Sanajan kitu, aya hiji masalah utama. Tenstorrent's Wormhole n150 dijual $999, sedengkeun n300 dijual $1,399. Ku ngabandingkeun, hiji kartu grafik Nvidia H100 tunggal retails pikeun $30.000, gumantung kana kuantitas. Tangtosna, urang henteu terang upami opat atanapi dalapan prosesor Wormhole tiasa leres-leres nganteurkeun kinerja H300 tunggal, tapi TDPna masing-masing 600W sareng 1200W.
Salian kartu, Tenstorrent nawarkeun workstations tos diwangun pikeun pamekar, kaasup 4 kartu n300 dina leuwih affordable basis Xeon TT-LoudBox kalawan cooling aktip, sarta TT-QuietBox canggih kalawan EPYC basis Xiaolong) fungsi cooling cair).
waktos pos: Jul-29-2024