Cerebras Systems, американско стартиращо предприятие, пусна най-големия чип, интегриращ повече от 1,2 трилиона транзистори и с размери 46,225 квадратни милиметра. Новият чип Cerebras Wafer Scale Engine (WSE) е оптимизиран за AI и е 56,7 пъти по-голям от най-големия графичен процесор, който е с размери 815 квадратни милиметра и съдържа 21,1 милиарда транзистора. Новият Cerebras Wafer Scale Engine (WSE) осигурява 3000 пъти по-висока скорост, вградена памет и идва с 10 000 пъти повече честотна лента на паметта. По-големият размер на чипа гарантира, че информацията може да бъде обработена по-бързо и дори може да намали времето за вникване или „времето за обучение“, което позволява на изследователите да тестват повече идеи, да използват повече данни и да решават нови проблеми.
Cerebras WSE е проектиран за изкуствен интелект и съдържа фундаментални иновации, които подобряват състоянието на техниката чрез решаване на десетилетия наред технически предизвикателства, които са с ограничен размер на чипа - като свързване на кръстосани мрежи, добив, доставка на енергия и опаковка. WSE може да ускори изчисленията и комуникациите, което намалява времето за обучение. WSE има 56,7 пъти повече силициева площ от най-големия графичен процесор. Също така, WSE може да осигури повече ядра за извършване на повече изчисления и разполага с повече памет по-близо до ядрата, така че ядрата да работят ефективно. Цялата комуникация се поддържа на самия силиций, поради огромния му набор от ядра и паметта са вградени в един чип.
Чипът Cerebras WSE съдържа 46 225 mm2 силиций и съхранява 400 000 AI оптимизирани, без кеш памет, изчислителни ядра и 18 гигабайта локална, разпределена, супер бърза SRAM памет. Чипът се предлага с 9 петабайта в секунда на честотната лента на паметта, където ядрата са свързани заедно с фино зърнеста, изцяло хардуерна, свързана в чип мрежова комуникационна мрежа, която осигурява обща честотна лента от 100 петабита в секунда. Това означава, че честотната лента за комуникация с ниска латентност на WSE е изключително голяма, което кара групите ядра да си сътрудничат с максимална ефективност, а честотната лента на паметта вече не е пречка. Повече локална памет, повече ядра и ниска латентност с висока честотна лента, комбинирани заедно, образуват оптималната архитектура за ускоряване на работата на AI.
Характеристиките на чипа Cerebras WSE:
- Увеличени ядра: WSE интегрира 400 000 AI-оптимизирани изчислителни ядра, наречени SLAC (Sparse Linear Algebra Cores), които са програмируеми, гъвкави и оптимизирани за оскъдната линейна алгебра, която е в основата на всички изчисления на невронната мрежа. Функцията за програмируемост на SLAC гарантира, че ядрата могат лесно да изпълняват всички алгоритми на невронната мрежа в постоянно променящо се поле за машинно обучение. Ядрата на WSE включват изобретената от Cerebras технология за събиране на нередности, която ускорява изчислителната ефективност при оскъдни натоварвания (натоварвания, които съдържат нули) като дълбоко обучение.
- Подобрена памет: Cerebras WSE интегрира повече локална памет заедно с повече ядра, което е повече от всеки чип, който позволява гъвкаво, бързо изчисление при по-ниска латентност и с по-малко енергия. WSE се предлага с 18 GB (гигабайта) вградена памет, достъпна от неговото ядро за един тактов цикъл. Тази колекция от локална памет на ядрото прави WSE да доставя съвкупност от 9 петабайта в секунда на честотната лента на паметта, което е 10 000 X повече честотна лента на паметта и 3 000 X