Мыслящие машины Дженсена Хуанга: История Nvidia и мировой ИИ-революции - Стивен Витт
В 2017 году программный пакет CUDA скачали 2,7 миллиона раз – почти втрое больше, чем в предыдущем, и в 15 раз больше, чем в провальном 2012-м. Часть загрузок приходилась на майнеров криптовалют, но большинство пользователей CUDA планировали работать над созданием искусственного интеллекта. Большой интерес проявляли студенты: к 2017 году самым популярным в Стэнфорде стал курс «Основы глубокого машинного обучения».
В отличие от майнеров, разработчики, использующие CUDA, не всегда покупали оборудование Nvidia. Многие арендовали облачные серверы, запуская на виртуальных машинах свои программы, а иногда и стартапы. Для облачных провайдеров это был исключительно прибыльный бизнес. Лидировал в этой области Amazon Web Services, контролировавший 50% рынка и в удачные годы зарабатывавший даже больше, чем огромное подразделение электронной коммерции компании. За Amazon следовал облачный сервис Microsoft Azure под руководством нового генерального директора компании Сатьи Наделлы. Совокупный спрос на микросхемы для центров обработки данных, обеспечиваемый Amazon, Microsoft и другими облачными провайдерами, позволил Nvidia за год удвоить продажи.
Хуанг не мог не заметить, что сдача в аренду виртуальных компьютерных ресурсов приносит больше прибыли, чем продажа реального оборудования. В 2017 году он представил две собственные облачные платформы. Первой стала GeForce Now, сдававшая в аренду виртуальные графические карты и позволявшая запускать игры с высокими требованиями к графике на маломощных устройствах вроде недорогих ноутбуков и компьютеров. Продажа игровых карт GeForce все еще обеспечивала основную часть доходов Nvidia, и энтузиасты по-прежнему любили хвалиться своими системными блоками, но существование облачных сервисов все больше наводило на мысль, что современному геймеру нужен только монитор и быстрый интернет. Выпуская GeForce Now, Хуанг уже подумывал поставить крест на том, что в течение двадцати пяти лет было его основным бизнесом, рассудив, что если он не сделает этого сам, то сделает кто-то другой.
Вторая платформа была совершенно иной. Идея пришла к Хуангу, когда он наблюдал, как Евген Чеботарь, исследователь из Университета Южной Калифорнии, обучал роботизированную руку бить клюшкой по оранжевому мячу. Чтобы научить руку забивать голы, он использовал методы обучения с подкреплением. При достаточном количестве времени рука могла бы посоперничать с Гретцки, но для этого Чеботарю и его ассистентам приходилось тысячи раз физически перемещать мяч перед клюшкой.
Хуангу подобное использование рабочего времени показалось слишком неэффективным. Вместо этого, считал он, физические параметры хоккея следовало бы смоделировать на компьютере. Компьютерная симуляция была любимой темой Хуанга на протяжении всей его карьеры. Всегда, когда можно было использовать симуляцию на компьютере, он это делал – как правило, это приносило прибыль и позволяло создавать инновационные продукты. Теперь он осознал, что частичной симуляции недостаточно; нужно симулировать всё. «Мы должны построить альтернативную вселенную», – заявил Хуанг.
В этой альтернативной вселенной для обучения роботов Чеботарю не пришлось бы возвращать мяч на место: обучение с подкреплением происходило бы мгновенно – в симуляции роботизированная рука смогла бы за то же время ударить по миллиарду мячей. Джеральд Тезауро создал симуляцию игры в нарды, в которой генерировались миллионы бросков костей. Хуанг собирался создавать симуляции хоккейных матчей, строя новую реальность в коде.
Создать платформу, достаточно точно воспроизводящую физику реального мира, было непросто. Игровые движки совсем не подходили: как отмечал Педди, если убрать в них текстуры, останутся просто сталкивающиеся блоки. Симулятор реальности требовал не только идеального физического движка, но и точного воспроизведения упругости столкновений и плотности объектов. Удар по теннисному мячу, например, должен был вызывать иную реакцию, чем удар по бильярдному. Мягкие материалы вроде ткани должны были изменять форму, а жесткие, например металл, сохранять ее. Скользкая мокрая тарелка должна была падать, а спелый фрукт – лопаться при ударе. Создать симуляцию с таким количеством переменных было очень дорого, разработка заняла бы много времени, а количество клиентов поначалу ограничивалось бы пятью-шестью. Но Хуангу, конечно, эта идея очень нравилась.
Свой первый симулятор Хуанг назвал платформой для обучения роботов Isaac. Со временем Isaac превратился в более сложный продукт под названием Omniverse, который Хуанг называл «промышленной метавселенной», а иногда – «цифровым двойником Земли». Omniverse задумывался не как оборудование для продажи, а как высококачественная цифровая площадка, сдаваемая в аренду. Им могли пользоваться не только разработчики роботов, но и создатели автомобилей, промышленные дизайнеры, проектировщики складов – все, кто хотел отладить работу сложных объектов в виртуальном пространстве, прежде чем приступить к реальному воплощению. Ко построил для Хуанга с помощью виртуальной реальности симуляцию космического корабля. С Omniverse он мог бы построить что угодно.
К концу 2017 года прибыль Nvidia утроилась, составив 3 миллиарда долларов. Резкий рост наблюдался по всем направлениям. Некогда захудалая компания по производству графических карт превратилась в игрока Уолл-стрит с рыночной капитализацией 100 миллиардов долларов. И все же, если бы в 2017 году вы спросили случайного прохожего, какую продукцию производит Nvidia, он бы, вероятно, ответил: оборудование для графики и майнинга криптовалют. Хотя, скорее всего, в 2017 году случайный прохожий вряд ли понял бы, о чем идет речь. Но даже те немногие, кто знали компанию, в основном связывали ее с видеоиграми.
Лишь самые проницательные инвесторы понимали, что Nvidia уже не просто производитель потребительских графических процессоров. Это была компания, работающая в сфере разработки искусственного интеллекта. Главная из подобных компаний. А искусственный интеллект вдруг оказался повсюду: распознавал лица, рекомендовал товары, организовывал ленты в социальных сетях и улучшал качество звука в мобильных телефонах. Как отметил Марк Андриссен, так или иначе почти все это работало на вычислительной архитектуре Nvidia.
Инвесторы, у которых хватило смелости поддержать Хуанга в трудные времена, получили достойное вознаграждение, а портфельные менеджеры Fidelity, которые допрашивали Хуанга в Бостоне в 2013 году, теперь радовались своей постоянно растущей доле в лучшей инвестиции на фондовом рынке. Благодаря CUDA, Switch, нобелевским премиям, криптовалютам и облачным технологиям Nvidia навсегда оставила позади времена корпоративного застоя. Но ни одна из новых разработок, даже попытка Хуанга клонировать реальность, не могла подготовить ни его самого, ни клиентов и инвесторов к грядущему преображению.
Глава 15
Трансформер
Как Моцарт был рожден для музыки, а Стефен Карри – для баскетбола, так Якоб Ушкорайт родился для малоизвестной области вычислительной лингвистики. Его отец Ханс Ушкорайт был известным лингвистом и программистом, посвятившим жизнь обучению компьютеров обработке языка. Якоб тоже хотел заниматься компьютерными технологиями, но в какой-нибудь другой сфере – например, связанной с биологией. Однак0, устроившись в 2008 году в Google, он осознал, что обработка языка
