Cerebras Systems

Cerebras Systems
Тип бизнес и компания
Дата основания 2016[1]
Расположение
Отрасль полупроводниковая промышленность и ИИ
Продукция аппаратное обеспечение

Cerebras Systems — американская компания, занимающаяся искусственным интеллектом, с офисами в Кремниевой долине, Сан-Диего, Торонто и Токио[3]. Cerebras создает компьютерные системы для сложных приложений искусственного интеллекта, требующих глубокого обучения[4].

История

Cerebras была основана в 2015 году Эндрю Фельдманом, Гэри Лаутербахом, Майклом Джеймсом, Шоном Ли и Жан-Филиппом Фрикером[5]. Эти пять основателей работали вместе в SeaMicro, которая была основана в 2007 году Фельдманом и Лаутербахом и позже была продана AMD в 2012 году за 334 миллиона долларов[6][7].

В мае 2016 года Cerebras получила 27 миллионов долларов в виде финансирования серии А под руководством Benchmark Foundation Capital и Eclipse Ventures[5][8]. В декабре 2016 года финансирование серии B обеспечила компания Coatu Management Llc, а в январе 2017 года финансирование серии C обеспечила компания VY Capital[5]. В ноябре 2018 года Cerebras завершили раунд серии D с 88 миллионами долларов, превратив компанию в единорога. Среди инвесторов этого раунда были Altimeter, VY Capital, Coatue, Foundation Capital, Benchmark и Eclipse[9][10].

19 августа 2019 года Cerebras анонсировала свой Wafer-Scale Engine (WSE)[11][12][13]. В ноябре 2019 года Cerebras завершила раунд серии E с более чем 270 миллионами долларов при оценке в 2,4 миллиарда долларов[14].

В 2020 году компания объявила об открытии офиса в Японии и партнерстве с Tokyo Electron Devices.

В апреле 2021 года Cerebras анонсировала CS-2, основанную на процессоре Wafer Scale Engine Two (WSE-2), который имеет 850 000 ядер[3]. В августе 2021 года компания анонсировала свою технологию масштабирования нейровычислений, которая может управлять нейронной сетью с более чем 120 триллионами соединений[15] .

В марте 2024 года Cerebras представила вычислительную платформу CS-3, основанную на суперчипе WSE-3, который имеет 900 000 ядер. Система масштабируется до 2048 устройств.

Последние годы Cerebras Systems готовилась выйти на IPO, однако в последний момент без явных объяснений компания отозвала свою заявку на публичное размещение акций[16]. По предположению сторонних наблюдателей правительство США заблокировало IPO опасаясь утечки новейших технологий в Китай через инвесторов ОАЭ[17].

Технология

Cerebras Wafer Scale Engine (WSE) — это единый интегрированный процессор масштаба кремниевой пластины, который включает в себя вычислительные ресурсы, память и межкомпонентную матрицу соединений[18]. WSE-1 является основой Cerebras CS-1, компьютера первого поколения с искусственным интеллектом Cerebras. Это устройство, устанавливаемое в 19-дюймовую стойку, предназначено для обучения ИИ и поддержке рабочих вычислений на основе нейросетей в центрах обработки данных[12]. CS-1 включает в себя один центральный процессор WSE с 400 000 процессорных ядер, а также двенадцать соединений 100 Gigabit Ethernet для передачи и передачи данных[12][19]. WSE-1 включает 1,2 триллиона транзисторов, 400 000 вычислительных ядер и 18 гигабайт оперативной памяти[11][12][13].

В апреле 2021 года Cerebras анонсировала систему искусственного интеллекта CS-2, основанную на процессоре Wafer Scale Engine 2-го поколения (WSE-2), производимом по 7-нм техпроцессу TSMC[3]. Вычислительный комплекс имеет высоту 26 дюймов и умещается в одну треть стандартной стойки центра обработки данных[20]. Процессор Cerebras WSE-2 обладает 850 000 ядрами, на пластине-процессоре размещаются 2,6 триллиона транзисторов. WSE-2, по сравнению с предыдущей версией, расширил объём встроенной SRAM до 40 гигабайт, пропускную способность памяти до 20 петабайт в секунду и общую пропускную способность фабрики соединений до 220 петабит в секунду.

В августе 2021 года компания объявила о своем решении для масштабирования нейровычислений, которое объединяет несколько интегральных схем (обычно называемых «чипами») в нейронную сеть с множеством соединений. Это позволяет единой системе поддерживать модели ИИ с более чем 120 триллионами параметров. Такое решение включает четыре нововведения: Cerebras Weight Streaming, новую архитектуру исполнения программного обеспечения; Cerebras MemoryX, технология расширения памяти; Cerebras SwarmX, оптимизированная для ИИ коммуникационная ткань; и Selectable Sparsity, технология динамического сбора разреженных частиц.

Использование

Сообщается, что технологии Cerebras используют клиенты, работающие в фармацевтическом и медико-биологическом секторах.

В 2020 году GlaxoSmithKline (GSK) начала использовать систему искусственного интеллекта Cerebras CS-1 в своем лондонском центре искусственного интеллекта для моделирования нейронных сетей, чтобы ускорить генетические и геномные исследования и сократить время, необходимое для открытия лекарств. Исследовательская группа GSK смогла повысить сложность моделей кодировщиков, которые они могли генерировать, одновременно сократив время обучения. Среди других клиентов фармацевтической отрасли — компания AstraZeneca, которая смогла сократить время обучения с двух недель на кластере графических процессоров до двух дней с помощью системы Cerebras CS-1.

Аргоннская национальная лаборатория использует CS-1 с 2020 года в исследованиях COVID-19 и раковых опухолях на основе крупнейшей в мире базы данных по лечению рака. Серия моделей, запущенных на CS-1 для прогнозирования реакции лекарств от рака на опухоли, достигла ускорения во много сотен раз на CS-1 по сравнению с исходным уровнем производительности, обеспечиваемым GPU.

Суперкомпьютер Lassen Национальной лаборатории Лоуренса Ливермора использовал CS-1 как для классифицированных, так и в несекретных задач для физического моделирования.

В августе 2021 года Cerebras объявила о партнерстве с компанией Peptilogics, занимающейся биотехнологической платформой, по разработке решений искусственного интеллекта для ускорения цикла разработки пептидных терапевтических средств.

По словам разработчиков, в полномасштабном режиме, использующем 2048 систем, WSE-3 может обучить модель Llama 70B с нуля за один день, энергопотребление всего кластера из 2048 ускорителей составит 48 МВт.

Примеры выпущенных устройств

  • Система Cerebras CS-1 на процессоре WSE-1 (2020 год)[21]. Техпроцесс 16 нм TSMC, количество транзисторов 1,2 триллиона, количество AI-ядер 400 000, внутренняя SRAM-память 18 ГБ, площадь чипа 46 225 мм2 (215x215 мм), пропускная способность памяти 9 ПБ/с, общая пропускная способность чипа 100 Пбит/с, энергопотребление системы 17 КВт, максимальное количество в кластере — неизвестно, максимальное количество параметров нейросети, обрабатываемое максимальным количеством ускорителей в кластере — ограничено размером внутренней памяти, возможность использовать внешнюю память не поддерживается.
  • Система Cerebras CS-2 на процессоре WSE-2 (2022 год)[22]. Техпроцесс 7 нм TSMC, количество транзисторов 2,6 триллиона, количество AI-ядер 850 000, внутренняя SRAM-память 40 ГБ, площадь чипа 46 225 мм2 (215x215 мм), пропускная способность памяти 20 ПБ/с, общая пропускная способность чипа 220 Пбит/с, энергопотребление системы 23 КВт, максимальное количество в кластере 192 шт., максимальное количество параметров нейросети, обрабатываемое максимальным количеством ускорителей в кластере — 1 трлн, возможность использовать внешнюю память MemoryX с помощью технологии Weight Streaming.
  • Система Cerebras CS-3 на процессоре WSE-3 (2024 год)[23]. Техпроцесс 5 нм TSMC, количество транзисторов 4 триллиона, количество AI-ядер 900 000, внутренняя SRAM-память 44 ГБ, площадь чипа 46 225 мм2 (215x215 мм), пропускная способность памяти 21 ПБ/с, общая пропускная способность чипа 220 Пбит/с, энергопотребление системы 23 КВт, максимальное количество в кластере — 2048 шт., максимальное количество параметров нейросети, обрабатываемое максимальным количеством ускорителей в кластере — 24 трлн, возможность использовать внешнюю память до 1,2 Пбайт.

См. также

Примечания

  1. ↑ AI Chip Boom: This Stealthy AI Hardware Startup Is Worth Almost A Billion (англ.) // Forbes / S. Forbes — New York City: Forbes, 2017. — ISSN 0015-6914; 2609-1445
  2. ↑ https://www.cerebras.net/contact/
  3. ↑ 1 2 3 Cerebras launches new AI supercomputing processor with 2.6 trillion transistors (амер. англ.). VentureBeat (20 апреля 2021). Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  4. ↑ Cerebras Systems deploys the ‘world’s fastest AI computer’ at Argonne National Lab (амер. англ.). VentureBeat (19 ноября 2019). Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  5. ↑ 1 2 3 Aaron Tilley. AI Chip Boom: This Stealthy AI Hardware Startup Is Worth Almost A Billion (англ.). Forbes. Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  6. ↑ Quentin Hardy. A.M.D. Buying SeaMicro for $334 Million (амер. англ.). Bits Blog (29 февраля 2012). Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  7. ↑ Cade Metz. How Google Spawned The 384-Chip Server (амер. англ.) // Wired. — ISSN 1059-1028. Архивировано 8 сентября 2021 года.
  8. ↑ A stealthy startup called Cerebras raised around $25 million to build deep learning hardware (амер. англ.) (недоступная ссылка — история). TechCrunch. Дата обращения: 23 октября 2021.
  9. ↑ Dylan Martin. AI Chip Startup Cerebras Reveals 'World's Fastest AI Supercomputer'. CRN (27 ноября 2019). Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  10. ↑ Moor Insights and Strategy. Cerebras Unveils AI Supercomputer-On-A-Chip (англ.). Forbes. Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  11. ↑ 1 2 Metz, Cade (19 августа 2019). To Power A.I., Start-Up Creates a Giant Computer Chip. The New York Times. Архивировано 23 октября 2021. Дата обращения: 23 октября 2021.
  12. ↑ 1 2 3 4 The Cerebras CS-1 computes deep learning AI problems by being bigger, bigger, and bigger than any other chip (амер. англ.) (недоступная ссылка — история). TechCrunch. Дата обращения: 23 октября 2021.
  13. ↑ 1 2 Cerebras’ New Monster AI Chip Adds 1.4 Trillion Transistors (англ.). IEEE Spectrum (20 апреля 2021). Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  14. ↑ Sally Ward-Foxton. EETimes - Cerebras Crams More Compute Into Second-Gen ‘Dinner Plate Sized’ Chip. EETimes (20 апреля 2021). Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  15. ↑ Cerebras' Tech Trains "Brain-Scale" AIs (англ.). IEEE Spectrum (24 августа 2021). Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  16. ↑ Novet, Jordan. AI chipmaker Cerebras withdraws IPO (англ.). CNBC (3 октября 2025). Дата обращения: 17 декабря 2025.
  17. ↑ Cerebras отложит IPO: США опасаются, что Китай получит доступ к ИИ-суперчипам при посредничестве ОАЭ. ServerNews - все из мира больших мощностей. Дата обращения: 17 декабря 2025.
  18. ↑ Cerebras’s Giant Chip Will Smash Deep Learning’s Speed Barrier (англ.). IEEE Spectrum (1 января 2020). Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  19. ↑ Neocortex Will Be First-of-Its-Kind 800,000-Core AI Supercomputer (амер. англ.). HPCwire (9 июня 2020). Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  20. ↑ Tiernan Ray. Cerebras continues 'absolute domination’ of high-end compute, it says, with world’s hugest chip two-dot-oh (англ.). ZDNet. Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  21. ↑ Самый большой в мире процессор Cerebras оказался в сотни раз быстрее суперкомпьютера на базе NVIDIA GPU. 3DNews (19 ноября 2020). Дата обращения: 17 ноября 2022. Архивировано 19 ноября 2022 года.
  22. ↑ Cerebras Systems поставила рекорд в области машинного обучения для одиночных систем. Servernews.ru (24 июня 2022). Дата обращения: 17 ноября 2022. Архивировано 19 ноября 2022 года.
  23. ↑ Cerebras представила гигантский процессор WSE-3 c 900 тысячами ядер. 3DNews. (13 марта 2024). Дата обращения: 14 декабря 2025.
Эта статья взята у (из) Википедия. Текст лицензируется по Creative Commons Attribution-Share Alike 4.0. К медиа файлам могут применятся дополнительные условия.