Cerebras Systems, americký startup, uviedol na trh najväčší čip integrujúci viac ako 1,2 bilióna tranzistorov s veľkosťou 46 225 milimetrov štvorcových. Nový čip Cerebras Wafer Scale Engine (WSE) je optimalizovaný pre AI a je 56,7-krát väčší ako najväčšia grafická procesorová jednotka, ktorá meria 815 štvorcových milimetrov a obsahuje 21,1 miliárd tranzistorov. Nový Cerebras Wafer Scale Engine (WSE) poskytuje 3 000-krát vyššiu rýchlosť pamäte na čipe a dodáva sa s 10 000-krát väčšou šírkou pásma pamäte. Väčšia veľkosť čipu zaisťuje rýchlejšie spracovanie informácií a môže dokonca znížiť čas potrebný na nahliadnutie alebo „čas potrebný na školenie“, ktorý umožňuje výskumníkom testovať viac nápadov, využívať viac údajov a riešiť nové problémy.
Cerebras WSE je navrhnutý pre AI a obsahuje základné inovácie, ktoré napredujú v stave techniky tým, že riešia desaťročia staré technické výzvy s obmedzenou veľkosťou čipu - ako je krížová krížová väzba, výťažnosť, dodávka energie a balenie. WSE môže urýchliť výpočty a komunikáciu, čo skracuje čas potrebný na tréning. WSE má 56,7-krát väčšiu plochu kremíka ako najväčšia grafická procesorová jednotka. WSE tiež môže poskytnúť viac jadier na viac výpočtov a ponúka viac pamäte bližšie k jadrám, takže jadrá môžu pracovať efektívne. Celá komunikácia je vedená na samotnom kremíku, pretože má obrovské množstvo jadier a pamäť je zabudovaná do jedného čipu.
Čip Cerebras WSE obsahuje 46 225 mm2 kremíka a obsahuje 400 000 AI optimalizovaných pre AI, bez vyrovnávacej pamäte, režijných nákladov, výpočtové jadrá a 18 gigabajtov miestnej, distribuovanej a superrýchlej pamäte SRAM. Čip je dodávaný s 9 petabajtmi za sekundu šírky pásma pamäte, kde sú jadrá spojené spolu s jemnozrnnou celo hardvérovou sieťovou komunikačnou sieťou pripojenou k čipu, ktorá poskytuje súhrnnú šírku pásma 100 petabitov za sekundu. To znamená, že komunikačná šírka pásma WSE s nízkou latenciou je extrémne veľká, čo spôsobuje, že skupiny jadier spolupracujú s maximálnou účinnosťou a šírka pásma pamäte už nie je prekážkou. Viac lokálnej pamäte, viac jadier a nízka latencia s vysokou šírkou pásma dohromady tvoria optimálnu architektúru pre urýchlenie práce s AI.
Vlastnosti čipu Cerebras WSE:
- Zvýšené jadrá: WSE integruje 400 000 výpočtových jadier optimalizovaných na AI nazývaných SLAC (Sparse Linear Algebra Cores), ktoré sú programovateľné, flexibilné a optimalizované pre riedku lineárnu algebru, ktorá podporuje všetky výpočty neurónovej siete. Funkcia programovateľnosti SLAC zaisťuje, že jadrá môžu ľahko spúšťať všetky algoritmy neurónovej siete v neustále sa meniacom poli strojového učenia. Jadrá WSE obsahujú technológiu zberu sparsity vynájdenú Cerebras, ktorá urýchľuje výpočtový výkon pri riedkych pracovných zaťaženiach (pracovných zaťaženiach, ktoré obsahujú nuly), ako je napríklad hlboké učenie.
- Vylepšená pamäť: Cerebras WSE integruje viac lokálnej pamäte spolu s väčším počtom jadier, čo je viac ako akýkoľvek čip, ktorý umožňuje flexibilný, rýchly výpočet s nižšou latenciou a s menšou energiou. WSE je dodávaný s 18 GB (gigabajty) pamäte na čipe prístupnou jeho jadrom v jednom takte. Táto zbierka jadrovej lokálnej pamäte umožňuje WSE dodať agregát šírky pásma pamäte 9 petabytov za sekundu, čo je o 10 000 X väčšia šírka pásma pamäte a 3 000 X