Мыслящие машины Дженсена Хуанга: История Nvidia и мировой ИИ-революции - Стивен Витт
Уроженец Парижа Лекун обладал хорошим чувством юмора и говорил с уверенностью человека, чья интуиция неоднократно опережала научные исследования. Он много раз публиковал материалы в соавторстве с Бенжио, в том числе знаменитую статью о распознавании почерка. Оба говорили по-французски и за годы совместных исследований стали друзьями. Но сейчас из-за разницы во взглядах на опасность использования ИИ их пути разошлись. «Мы все еще друзья, – говорит Бенжио. – Но сейчас спорим на людях так, как друзья обычно не делают».
Лекун не испытывает страха перед искусственным интеллектом и считает, что Бенжио напрасно приписывает безобидной машине человеческие качества. «Стремление некоторых людей к доминированию или хотя бы манипулированию другими заложено в нас эволюцией, потому что мы социальный вид с иерархической организацией, – говорит Лекун в интервью журналу Time. – Системы искусственного интеллекта, какими бы умными они ни были, будут подчиняться нам. Это мы задаем им цели, и мы не встраиваем в них никакого стремления к господству».
Лекун признает, что нейронная сеть могла бы стремиться к власти, но уверен, что никто не станет создавать такой искусственный разум: «Это было бы безрассудно. К тому же совершенно бесполезно. Все равно никто бы это не купил». Слова Лекуна отсылают к мыслям Паскаля, который еще в середине XVII века вглядывался в шестеренки своей счетной машины в поисках сознания. «Счетная машина производит действия, которые ближе к мыслям, чем то, что делают животные, – писал он, – но не порождает ничего, что подтверждало бы наличие у нее свободной воли».
Бенжио полагает, что Лекун слишком самоуверен. Люди – как отдельные индивиды, так и целые общества – делают массу глупых и разрушительных вещей. До сих пор обучение ИИ требовало столь значительных расходов, что заниматься этим могли только серьезные ответственные организации, но постоянное снижение стоимости вычислений, которое обеспечивают технологии Nvidia, может в скором времени сделать обучение ИИ доступным для всех. А для появления неуправляемого суперинтеллекта достаточно единственного казуса. «Чем мощнее становится ИИ, тем вероятнее, что он захочет взять под контроль компьютер, на котором работает, чтобы получать большее вознаграждение, – говорит Бенжио. – И для нас это будет конец истории».
Хинтон придерживается той же точки зрения и предупреждает, что такая ситуация может возникнуть непреднамеренно. «Представьте, что будет, если всего лишь у одного из них возникнет самое крохотное, ничтожное желание позаботиться о себе», – говорит он. Такой ИИ победит, полагает Хинтон: «Он будет стремиться получать все больше ресурсов. Наиболее эгоистичные его решения окажутся самыми успешными. Полагаю, вы понимаете, насколько скользкий это путь».
Разногласия между Бенжио и Лекуном отражают раскол во всем сообществе разработчиков искусственного интеллекта. В дискуссиях специалисты часто используют параметрическую переменную p(doom), обозначающую вероятность того, что ИИ однажды уничтожит человеческую расу. С точки зрения Лекуна, p(doom) равна нулю. Бенжио считает, что она равна 50%. Это крайние оценки, хотя тревогу вызывает любой показатель выше нуля.
Когда Хинтон в начале 2023 года беседовал с Бенжио, он тоже оценивал p(doom) на уровне 50%. Проще говоря, самый известный специалист по ИИ считал, что шансы на катастрофу – пятьдесят на пятьдесят. Но в 2024 году в разговоре со мной Хинтон снизил эту оценку до 10–20%. «Я пересмотрел свой прогноз, поскольку многие умные люди, которых я глубоко уважаю, решительно со мной несогласны, – говорит он. – В первую очередь, конечно, Дженсен».
Для Дженсена p(doom) равна нулю. Можно даже сказать, что он считает этот показатель отрицательным, хотя математически это невозможно. Он открыто отвергает саму постановку вопроса, считая его нелепым и полагая, что люди, спорящие об этом, тормозят развитие цивилизации. Когда мы сидели в Denny's, он высказался в том духе, что Хинтон порочит свое академическое наследие, рассуждая о подобных вещах.
Мнение Дженсена заставило Хинтона смягчить свою оценку, но Бенжио твердо стоит на своем (неслучайно Бенжио – один из немногих крупных специалистов по ИИ, никогда не бравших денег у компаний Кремниевой долины). И Хинтон, и Бенжио поддержали законопроект штата Калифорния, призывающий регулировать обучение ИИ в случае, когда оно превышает 100 миллионов долларов.
Этот законопроект, SB 1047, был воспринят в Кремниевой долине в штыки. Против него выступила коалиция венчурных капиталистов и технологических корпораций, а также целый отряд лоббистов из Сакраменто. Известный инвестор Нэнси Пелоси опубликовала заявление с призывом не голосовать за проект. Так же поступили некоторые ученые, например Фэй Фэй Ли из Стэнфорда, утверждавшая, что законопроект затормозит инновации, но никак не снизит риски. Эндрю Ын, профессор, синтезировавший изображения кошек в Google, сказал, что переживать из-за возможного захвата власти ИИ не более рационально, чем волноваться о возможной перенаселенности Марса. Хотя опросы общественного мнения показали, что почти 80% населения штата поддерживает SB 1047, в сентябре 2024 года губернатор Калифорнии Гэвин Ньюсом наложил на законопроект вето.
Дженсен не делал публичных заявлений по поводу SB 1047, но подчеркивал, что нет никаких данных, подтверждающих предположения (безусловно, довольно сумбурные) об опасности ИИ. Когда я пересказал возражения Дженсена Бенжио, тот возмутился. «Конечно, нет никаких данных! – воскликнул он. – Человечество пока не исчезло! Что же нам, ждать, пока человечество будет уничтожено несколько раз, чтобы сказать: "Ага, теперь у нас есть данные?!"» В его словах была логика. Никакие данные в мире не могли предсказать прорыв AlexNet или успех архитектуры трансформеров. Дважды за десять лет произошел внезапный и необратимый скачок в развитии ИИ. Бенжио не считает, что нынешние нейросети представляют прямую угрозу человечеству, но что принесет следующий прорыв? Никто не может сказать, каким он будет и когда произойдет.
Даже если сверхразум не появится в ближайшее десятилетие, его возникновение через двадцать, тридцать, пусть даже сто лет кажется неизбежным. По времени подобная перспектива выходит за рамки прогнозируемой окупаемости инвестиций, но остается в пределах человеческой истории. Через пару поколений гомо сапиенс может перестать быть доминирующим видом на планете, но венчурные капиталисты так далеко не заглядывают.
Конфликт между желанием получать краткосрочную прибыль и долгосрочными рисками создает хаос в мире ИИ-стартапов. В ноябре 2023 года разыгралась странная драма в совете директоров OpenAI: Илья Суцкевер сначала проголосовал за отстранение Сэма Альтмана, а через несколько дней начал умолять его вернуться. В итоге Альтман одержал победу, а совет директоров заменили.
Вскоре стало очевидно, что, несмотря на заявленную некоммерческую миссию OpenAI, «ограниченная» заинтересованность Microsoft в получении прибыли подталкивает организацию к
