Мыслящие машины Дженсена Хуанга: История Nvidia и мировой ИИ-революции - Стивен Витт
Глава 16
Гипермасштабирование
Единственное, что теперь интересовало Хуанга, – это масштаб разработки. Он не рассматривал искусственный интеллект как зарождающийся сверхразум и не любил аналогий с биологическим организмом. В его понимании ИИ был просто программным обеспечением, работающим на аппаратной платформе его компании. Этот подход он активно продвигал в выступлениях перед сотрудниками, так что они говорили о возможностях ИИ с куда меньшим воодушевлением, чем можно было ожидать.
Вероятно, с точки зрения Хуанга, настоящим достижением были не сами нейронные сети, а феноменальные вычислительные мощности центров обработки данных. На конференции GTC 2018 года Хуанг отметил, что производительность графических процессоров Nvidia возросла в 25 раз всего за пять лет, опровергнув закон Мура. Он продемонстрировал график, показывающий, что AlexNet, для обучения которой на его видеокартах в 2012 году требовалась неделя, сейчас на новом компьютере DGX–2 можно обучить всего за 18 минут. «Теперь действует новый закон, – заявил он, – закон сверхускоренного роста».
Хуанг также имел особый взгляд на центры обработки данных. Эти гигантские вычислительные комплексы он рассматривал не как набор оборудования, состоящий из множества процессоров, а как единую систему, направленную на решение одной задачи. Но возникала новая проблема: тысячи графических процессоров передавали данные в рамках этой системы так быстро, что это перегружало сетевую инфраструктуру.
В поисках решения Хуанг обратил внимание на Infiniband – самый скоростной на тот момент сетевой стандарт в мире, разработанный израильской компанией Mellanox. Как и сам Хуанг, коренастый и общительный основатель Mellanox Эйял Вальдман не боялся рискованных вложений. Он создал Infiniband для узкого рынка суперкомпьютеров, хотя затраты на разработку значительно превышали потенциальную прибыль. Как и в случае с CUDA, появился мощный продукт, которому только предстояло найти своего потребителя.
Но как уже убеждался Хуанг на собственном опыте, инвесторам не нравился подход, нацеленный на воплощение некой мечты. Слишком большие инвестиции в производственные мощности приводили к снижению рентабельности, низкие прибыли вели к уменьшению стоимости акций, это вызывало недовольство акционеров, которое, подобно бэт-сигналу, служило импульсом для корпоративных рейдеров вроде Джеффа Смита.
Смит, который в 2013 году пытался сместить Хуанга с его поста, к 2017-му укрепил свою репутацию одного из самых успешных инвесторов в мире. Годовая доходность его вложений превышала 30%. Его Starboard Value начала скупать акции переживавшей не лучшие времена Mellanox и вскоре завладела десятой частью компании. Хуанг сумел дать отпор Смиту, но Вальдману повезло куда меньше: Starboard начала агрессивную кампанию, пытаясь разом заменить весь совет директоров Mellanox, насчитывающий одиннадцать членов. Вальдман отложил заседание совета, чтобы заручиться поддержкой инвесторов, а Смит в это время убеждал их проголосовать за его отставку. Казалось, грядет масштабное сражение за компанию, но в итоге Вальдман уступил три места в совете. После этого он объявил, что выставляет Mellanox на продажу.
Время для этого было выбрано удачно. К концу 2010-х масштабы облачных вычислений стали расти, и Infiniband оказался востребован. Кабели, коммутаторы, маршрутизаторы, сетевые чипы – устаревающий стандарт Ethernet уже не соответствовал всей этой аппаратной части центра обработки данных. В крайне сложных условиях Вальдман сумел заинтересовать потенциальных покупателей – семерых поставщиков облачных услуг. В марте 2019 года Nvidia выиграла конкурс, предложив 7 миллиардов долларов и обойдя Intel. По завершении сделки в 2020 году Nvidia получила 3000 новых сотрудников, а Mellanox была переименована в Nvidia Israel.
Покупка подразумевала необходимость расплатиться со старым «врагом-другом» Смитом, но Хуанга это не сильно волновало. Его полностью увлекла работа с новыми каналами передачи данных, которые были способны превратить его фабрики искусственного интеллекта из примитивного мозга в нечто, больше напоминающее полноценную нервную систему. Сочетание возможностей Infiniband и ресурсов Nvidia оказалось на редкость удачным.
Хотя Смит удвоил свой вклад, последующие события показали, что Хуанг все же получил больше. «Это стало одним из самых прибыльных корпоративных приобретений последних лет», – говорит член совета директоров Марк Стивенс. Спустя некоторое время Starboard в своем корпоративном отчете отдала должное человеку, которого когда-то пыталась устранить. «Дженсен Хуанг – настоящий визионер в своей отрасли», – сухо констатировал документ.
После успеха с Mellanox Хуанг решил еще раз провернуть удачную сделку. В сентябре 2020 года он предложил британскому разработчику микросхем ARM выкупить компанию за 40 миллиардов долларов. Это могло стать крупнейшим слиянием в истории полупроводниковой индустрии, но, как выяснилось, замысел оказался чересчур амбициозным. В 2021 году американские регулирующие органы заблокировали сделку, аргументируя это угрозой для инноваций. Не желая конфликтовать с федеральными властями, Хуанг отозвал свое предложение. (Сотрудники китайских и британских регуляторов разделяли опасения американских коллег. К тому моменту Intel, Nvidia и AMD вели ожесточенную борьбу за рынок центров обработки данных. Вертикальное расширение одной из этих компаний могло подорвать конкурентоспособность остальных.)
Доминирующее положение Nvidia на рынке позволяло ей удерживать высокие цены: валовая прибыль от продажи микросхем для искусственного интеллекта могла превышать 90%. Такая маржа привлекала конкурентов, как кровь акул. Google и Tesla, стремясь снизить зависимость от Nvidia, разработали собственное оборудование для ИИ. На рынок вышло множество стартапов, среди которых была компания Cerebras, создавшая свой «мегачип» размером с обеденную тарелку. «Они просто вымогают деньги у клиентов, и никто не осмеливается сказать это вслух», – заявил, говоря об Nvidia, Эндрю Фельдман, генеральный директор Cerebras.
Некоторые аналитики задумывались, насколько устойчива позиция Nvidia. AMD и Intel предлагали альтернативы CUDA, которые позволяли их клиентам отказаться от аппаратного обеспечения Nvidia и в перспективе сэкономить миллиарды долларов. Однако лишь немногие исследователи в сфере искусственного интеллекта использовали их продукцию. В чем же была причина?
Я задавал этот вопрос многим людям и услышал множество разных ответов. Один из распространенных мифов гласит, что отказаться от CUDA технически сложно. На самом деле это было легко: порой разработчику достаточно было изменить лишь пару строк кода. Еще одно заблуждение состояло в том, что корпоративные закупщики оборудования просто не хотели рисковать. («Никто не был уволен за то, что купил Nvidia», – перефразировал Ханс Мозесманн старую поговорку об IBM[16].) Но один из покупателей оборудования сказал мне, что постоянно тестирует продукцию конкурентов Nvidia и сожалеет, что более доступного аналога пока не появилось. «Это оборудование неприлично дорогое», – говорит он о вычислительных устройствах Nvidia.
Успех Nvidia определяло не превосходство возможностей
