Мыслящие машины Дженсена Хуанга: История Nvidia и мировой ИИ-революции - Стивен Витт
Дженсен рассказал мне, что в то утро проснулся в половине четвертого. Один из псов спал у него между ног. Он проработал в должности генерального директора тридцать один год – дольше, чем кто-либо из гендиректоров технологических компаний, входящих в список S&P 500. Он мог бы не вставать с постели, да и желания особого не было. Он спросил себя, есть ли что-то, что может разрушить его бизнес прямо сегодня, и ответил: нет. Но может, что-то все же маячит на горизонте? Пожалуй. Крупнейшие клиенты Nvidia уже разрабатывали собственные микрочипы. AMD, осознав, что разрабатывать только «железо» недостаточно, активно нанимала программистов. Если инженеры Nvidia перестанут поддерживать своих клиентов, технология нейронных сетей может не оправдать ожиданий и спрос на продукты компании упадет.
В четыре утра Дженсен уже работал. Он всегда начинал день с самого важного проекта: если удастся чуть продвинуться, значит, день прожит не зря. В наших беседах он постоянно что-то недоговаривал: «Должны же у меня быть какие-то секреты».
Впрочем, кое о чем я догадывался. Ходили слухи, что OpenAI работает над новой нейронной сетью под названием Project Strawberry. Говорили, что это «рациональный» ИИ, созданный чисто для математических исследований. Дженсен никогда не обсуждал со мной Project Strawberry, но пару раз невзначай предлагал представить мир, где математические задачи решаются нажатием на кнопку. «Затраты на вычисления упали бы до нуля, и это открыло бы невероятные возможности, – говорил он. – Как ты думаешь, что произойдет, когда стоимость всех математических операций станет нулевой?»
Я смотрел на пруд с черепахами во дворике института. Все ученые, работающие здесь, весь их интеллектуальный потенциал – неужели миллиарды транзисторов смогут в мгновение ока их превзойти? И что тогда? Будем вручать Филдсовскую премию компьютеру? Построим единую теорию поля в физике? Я подумал о вычислительной машине Паскаля с ее шестеренками. Дженсен уже покорил арифметику. Теперь его устройства готовились штурмовать сам разум.
Глава 22
Страх
Страх настиг Йошуа Бенжио холодным зимним днем нового, 2023 года. Этот пионер разработки искусственного интеллекта из Монреаля был одним из первых сторонников нейронных сетей. Эта технология давно завораживала его, и он отстаивал ее важность даже в периоды спада. В 2019 году он получил премию Тьюринга – аналог Нобелевской премии в компьютерных науках – за основополагающие исследования в этой области. Награду с ним разделили его постоянные соавторы Ян Лекун и Джеффри Хинтон.
Бенжио был худощавым мужчиной с густыми изогнутыми бровями и пронзительным взглядом. Его родители, евреи-сефарды, переехали в Монреаль из Марокко в 1970-х, чтобы стать участниками авангардной театральной сцены. Сам Бенжио увлекся компьютерами, хотя изучение нейронных сетей в 1990-х считалось занятием не более серьезным, чем экспериментальный театр. Именно его работы послужили фундаментом для AlexNet, и к середине 2010-х Бенжио ощущал, что его усилия не пропали даром. Малоизвестные статьи, которые он когда-то публиковал в специализированных журналах, стали основой для новой научной области. Бенжио был академическим ученым, далеким от коммерции, но наблюдал за бумом искусственного интеллекта с некоей отеческой гордостью.
Как и многие исследователи в этой области, Бенжио иногда представлял мир, в котором искусственный интеллект стал слишком могущественным. Большую часть его карьеры это были не более чем забавные фантазии: если искусственный интеллект собирается захватить планету, почему так сложно получить грант в 10 000 долларов на его разработку? Но после публичного запуска ChatGPT Бенжио впервые в жизни начал испытывать беспокойство. Возможности ChatGPT его потрясли. Он не ожидал, что при его жизни появятся компьютеры, взаимодействие которых с человеком будет казаться осмысленным. И вдруг в конце 2022 года эта технология возникла ниоткуда. Это было столь же невероятно, как встретить инопланетянина.
Каждое утро в любую погоду Бенжио выходил на прогулку, чтобы привести в порядок мысли. В тот день, когда его настиг страх, было теплее обычного. Снег на улицах Монреаля превратился в слякоть. И вдруг посреди серого пейзажа его захлестнуло незнакомое чувство. Он называет это «преображением». «Я стал думать о своих детях и о внуке, – рассказывает он. – Что с ними будет через двадцать лет? Будут ли они вообще нормально жить?»
Этот страх был худшим из возможных – тем, что становится только сильнее, когда отбрасываешь эмоции и обдумываешь проблему рационально. Бенжио сравнивает его с угрозой ядерной войны. Впрочем, ему кажется, что в этом случае все еще хуже: ядерную войну какая-то часть человечества может пережить, но если нас решит уничтожить искусственный интеллект, он способен создать средство, которое истребит всех без исключения. «Не думаю, что существует что-то столь же опасное», – говорит он.
После той прогулки Бенжио связался со своим другом и соавтором Джеффри Хинтоном, чтобы убедиться, что не сошел с ума. Оказалось, что Хинтон независимо от него пришел к тем же выводам. Более того, это произошло похожим образом и почти в то же время. Исследуя возможности ChatGPT, Хинтон сначала испытал восторг от подтверждения своих идей, но очень скоро его радость переросла в серьезное беспокойство. Вскоре Хинтон уволился из Google, чтобы посвятить себя предупреждению человечества об опасности неконтролируемого искусственного интеллекта. Илья Суцкевер, создатель ChatGPT, тоже испытывал большую тревогу и предлагал полностью сосредоточиться на так называемой проблеме выравнивания – осуществлении контроля за сверхразумным ИИ, чтобы не допустить с его стороны действий, противоречащих интересам человечества. Бенжио, Хинтон и Суцкевер занимали первые места среди самых цитируемых ныне живущих специалистов по компьютерным наукам. И все трое опасались, что искусственный интеллект может уничтожить нас. Такое единодушие вызывало беспокойство.
Конечно, не все разделяли эту точку зрения. Ян Лекун, третий лауреат премии Тьюринга, считал, что его коллеги ведут себя нелепо. Лекун был
