Мыслящие машины Дженсена Хуанга: История Nvidia и мировой ИИ-революции - Стивен Витт

будущем нейронные сети обещали стать гораздо больше. Было понятно, что по мере их разрастания обучение будет не единственной проблемой; так же важно обеспечить быстрое получение ответов (представьте оракула, который знает ответ на любой вопрос, но может произносить только одно слово в час). Хотя процесс инференции (вывода информации) требовал меньших вычислительных ресурсов, чем этап обучения, со временем он стал значимой частью функционирования библиотеки cuDNN.

Хуанг внимательно следил за успехами Катандзаро. Они встречались регулярно, и Хуанг постоянно извинялся, что никак не запомнит, как произносится его фамилия. В других компаниях библиотека cuDNN давно перешла бы в руки опытного продакт-менеджера, но в Nvidia курировать флагманский проект доверили Катандзаро, который никогда не разрабатывал коммерческое программное обеспечение и не имел опыта руководства командой. Порой Катандзаро сам сомневался, подходит ли он для этой роли. Особенно сложно ему было, когда приблизились сроки сдачи проекта. Не скупившийся на похвалу за хорошую работу Хуанг так же легко переходил к гневу и оскорблениям, если обязательства были сорваны. «С Дженсеном не всегда легко поладить, – признается Катандзаро. – Порой он внушает мне страх. Но я знаю, что он относится ко мне с любовью».

Ближе к дате запуска Катандзаро начало беспокоить другое. Его тревожило, что босс может попасть в старую как мир ловушку. Если и была сфера менее прибыльная, чем параллельные вычисления, то это, безусловно, ИИ. С 1950-х годов развитие технологии искусственного интеллекта переживало многократные взлеты и падения. Катандзаро прекрасно осознавал, насколько сложно будет внедрить искусственный интеллект в бизнес, и боялся подвести инвесторов. Однако делиться своими опасениями с Хуангом он не стал: уж очень хотелось использовать предоставленный шанс.

Хотя Катандзаро помнил о неудачном прошлом нейросетей, Уолл-стрит, похоже, уже обо всем забыла. Со времени краха экспертных систем в 1980-х годах прошло около тридцати лет, так что об этом уже не помнили даже самые въедливые аналитики фондового рынка. Вскоре на фоне шумихи вокруг нейронных сетей акции Nvidia начали расти, и Starboard Value перестала присылать письма. «Они удвоили свой капитал и исчезли», – говорит Кокс.

К началу 2014 года cuDNN была готова к работе. Хуанг представил новый продукт на конференции GTC 2014 и впервые за двадцать один год существования Nvidia открыто объявил, что компания занимается разработкой искусственного интеллекта. (На этот раз он отказался от кожаной куртки и щеголял в черных брюках и темно-синей рубашке поло. Новый наряд как бы подчеркивал его уверенность и силу.) Хуанг продемонстрировал сеть Ына и ее способность распознавать кошек и человеческие лица, затем рассказал о ранних разработках Nvidia в области ИИ и, опять допустив ошибку в произношении фамилии, передал слово Катандзаро, который показал, как AlexNet идентифицирует породы собак в Twitter. В режиме реального времени сеть определила далматинца, немецкую овчарку, венгерскую выжлу и керн-терьера. («Я даже не знал, что это за порода – керн-терьер», – смеется Катандзаро.) Было похоже, что все неудачи в развитии ИИ остались позади.

В конце выступления Хуанг представил партнеров компании, которые тестировали cuDNN в бета-версии. Среди них были Adobe, Facebook и Netflix. Google была слишком важным клиентом, чтобы упоминать о ней публично. За несколько недель до показа Google приобрела DeepMind – лондонскую компанию, основанную Демисом Хассабисом, Мустафой Сулейманом и Шейном Леггом. Они стремились создать первый в мире общедоступный искусственный интеллект (AGI) и разгадать загадку сознания. К моменту приобретения DeepMind разрабатывала AlphaGo – нейронную сеть, которой предстояло в 2016 году решить сложнейшую задачу: одолеть человека в японской игре го. Объединив усилия с группами Ына, AlexNet и DeepMind, Google закрепила за собой лидирующие позиции в отрасли.

По мере развития направления ИИ в Google разработчики начали требовать все больше графических процессоров. В конце 2014 года Google инициировала проект Mack Truck – секретную программу по созданию самого мощного в мире компьютера, выполняющего параллельные вычисления. Для него было закуплено более 40 000 GPU от Nvidia на сумму свыше 130 миллионов долларов. Крупнейший заказ, который когда-либо получала Nvidia. Но это было только начало. С развитием ИИ тяжелый период в продвижении параллельных вычислений закончился.

Не все понимали, что революция в области глубокого обучения происходила не только в программировании, но и в развитии аппаратной части. Прорыв стал возможен благодаря не одной, а сразу двум ранее невостребованным и непопулярным технологиям, которые смогли проявить себя, лишь будучи объединенными. Нейросети, развернутые на компьютерах, выполняющих параллельные вычисления, были как сплетенные нити ДНК в сверхмощном организме, стремящемся вобрать в себя все данные мира.

Глава 13

Сверхразум

Йенс Хорстманн начал замечать перемены в своем старом друге. Прежде Хуанг, как бы ни был он загружен работой, дома был мягким и спокойным. Он всегда находил время для хобби: собак, дорогого виски, коллекции роскошных автомобилей, пополнившейся Tesla Roadster и суперкаром Koenigsegg. Также Хуанг приобрел просторный дом на Мауи на берегу океана с видом на закат. Он часто принимал в нем друзей, в том числе Морриса Чанга из TSMC.

Его главной страстью была кулинария. На один из дней рождения Хуанга друзья организовали ему мастер-класс у шеф-повара, имеющего звезду «Мишлен», в отеле Four Seasons. Когда Хуанг прибыл туда, его встретили шутками. «Шеф-повар его просто высмеял, – рассказывает Хорстманн. – Дженсен, конечно, когда-то работал на кухне в Denny's, но это было совсем другое». Хуанг отработал двенадцатичасовую смену, впервые за много лет оказавшись в шкуре подчиненного, на которого кричит начальник. После ужина, которым он накормил друзей, он просто заснул в автомобиле по дороге домой.

Однако когда Nvidia начала заниматься ИИ, Хуанг забросил все свои хобби. Его тяга к развлечениям ослабла. Он больше не играл в настольный теннис, покрытый пылью гриль ржавел во дворе. Он даже перестал отвечать на сообщения. «Он с головой погрузился в работу, – вспоминает Хорстманн. – Мы больше не говорили ни о чем, кроме нее». Хуанг был одержим новыми достижениями. Аббревиатура OIALO звучала на каждом собрании. Хуанг усердно трудился c двадцати лет, шесть дней в неделю проводя по двенадцать часов на рабочем месте. Это продолжалось тридцать лет, но теперь, перешагнув пятидесятилетний рубеж и вырастив детей, он стал работать еще больше.

Когда-то, чтобы расслабиться, Хуанг любил ходить в одиночку в кино. Он предпочитал высокобюджетные фильмы, особенно сагу о Мстителях, которую смотрел не только ради сюжета, но и чтобы оценить качество компьютерной графики. Однако многие поклонники Marvel были геймерами, а фото Хуанга не раз появлялось на сайте сообщества Nvidia, так что его стали узнавать в кинотеатрах. Устав фотографироваться с поклонниками, Хуанг какое-то время старался