Marvell Technology привлекает внимание инвесторов, поскольку энергетический кризис ИИ подогревает гонку за эффективность чипов

Marvell Technology привлекает внимание инвесторов с Уолл-стрит, поскольку рынок полупроводников смещается в сторону энергоэффективности на фоне кризиса энергопотребления, вызванного ИИ. По данным Bloomberg, стоимость электроэнергии вблизи центров обработки данных США выросла на 267% за последние пять лет, затронув 13 из 50 штатов США, поскольку нагрузки ИИ потребляют огромные объемы энергии. Крупные технологические компании, закупающие электроэнергию оптом, получают скидки, в то время как бытовые потребители несут более высокие расходы, что побуждает отрасль уделять приоритетное внимание архитектурам чипов с низким энергопотреблением. Профессор Ким Хак-джу из кафедры конвергенции ИИ Университета Хандонг объясняет, что приобретение Marvell в 2021 году компании Inphi — лидера в области межчиповой передачи сигналов — позволяет компании решить основное узкое место ИИ: передачу данных между памятью и вычислительными блоками, на которую приходится 40% энергопотребления ИИ.

Потребление энергии ИИ вызывает рост стоимости электроэнергии на 267% в регионах с центрами обработки данных США

Bloomberg сообщает, что стоимость электроэнергии в районах, прилегающих к центрам обработки данных США, выросла на 267% по сравнению с пятью годами ранее, при этом в настоящее время затронуто 13 из 50 штатов США, а географический охват продолжает расширяться. Крупные технологические компании, управляющие центрами обработки данных, закупают электроэнергию оптом, получая скидки, которые перекладывают бремя расходов на бытовых потребителей. Энергопотребление ИИ делится на четыре категории: передача данных (40%), рассеивание тепла и охлаждение (35%), вычисления (15%) и поддержание хранения данных (10%). Главный научный сотрудник NVIDIA Билл Далли заявил, что ИИ потребляет значительно больше энергии при передаче данных от внешних полупроводников памяти (HBM) к вычислительным блокам (GPU), чем при выполнении самих вычислений.

Полупроводниковая промышленность переходит на архитектуры SRAM и CIM для энергоэффективности

Отрасль движется к более широкому использованию SRAM — памяти, расположенной внутри вычислительных блоков GPU, — вместо внешней памяти HBM для сокращения расстояний передачи данных. Когда энергопотребление вычислений равно 1, извлечение данных из внутренней памяти SRAM требует 5–10 единиц энергии, тогда как получение данных из внешней памяти HBM потребляет 100–1000 единиц из-за сопротивления сигнала на более длинных медных проводах и необходимости усиления сигнала. Компании, включая Groq и Cerebras, спроектировали чипы, плотно набитые SRAM, отказавшись от внешних соединений HBM, несмотря на ограничения SRAM по емкости, физическому размеру и стоимости. Отрасль также разрабатывает архитектуры Chip-in-Memory (CIM), которые встраивают вычислительные блоки непосредственно в память, чтобы еще больше минимизировать расстояния передачи.

Marvell Technology получает конкурентное преимущество благодаря приобретению Inphi

Marvell Technology приобрела Inphi в 2021 году, получив доступ к ведущим мировым экспертизам в области подключения сигналов между полупроводниками. Inphi занимала доминирующие позиции как в микроуровневых сигнальных соединениях в тесном пространстве чипов, так и в решениях для оптической связи. Крупные технологические компании, включая Google, Microsoft и Amazon, нуждаются в интеллектуальной собственности Inphi для проектирования межчиповых сетей (ASIC), что дает Inphi значительное преимущество на переговорах даже с крупными технологическими фирмами. Отрасль переходит от медных проводов к лазерной оптической связи в качестве среды передачи данных, чтобы снизить энергопотребление и тепловыделение при извлечении больших объемов данных из внешней памяти HBM — области, где Inphi сохраняет лучшие решения.

FAQ

Что привело к росту стоимости электроэнергии вблизи американских центров обработки данных на 267%? По данным Bloomberg, стоимость электроэнергии в регионах с центрами обработки данных США выросла на 267% за пять лет из-за огромного энергопотребления ИИ, в настоящее время затрагивая 13 из 50 штатов США с расширяющимся географическим охватом.

Почему Marvell Technology приобрела Inphi в 2021 году? Marvell приобрела Inphi в 2021 году, чтобы получить доступ к передовым технологиям межчиповой передачи сигналов и оптическим сетевым решениям, необходимым для энергоэффективных архитектур ИИ-чипов, поскольку на передачу данных приходится 40% энергопотребления ИИ.

Как SRAM снижает энергопотребление ИИ по сравнению с памятью HBM? SRAM, расположенная внутри вычислительных блоков GPU, требует 5–10 единиц энергии для извлечения данных при единице вычислительной мощности, тогда как внешняя память HBM потребляет 100–1000 единиц из-за больших расстояний передачи данных и требований к усилению сигнала по медным проводам.