Мыслящие машины Дженсена Хуанга: История Nvidia и мировой ИИ-революции - Стивен Витт
Jellyfish стала первой нейронной сетью, превзошедшей человека в играх. После этого Даль переключился на покер. Используя технологию обучения с подкреплением, он вскоре разработал (может, лучше сказать «воспитал») нейросеть, способную победить кого угодно в лимитном техасском холдеме для двух игроков. Даль продал лицензию на использование нейросети производителю игровых машин, который установил непобедимые покерные автоматы в казино на Лас-Вегас-Стрип и пригласил всех желающих сыграть на деньги. И снова никто не смог победить машину.
Однако на этом революция закончилась. Несмотря на неплохой заработок от игровых автоматов, Даль столкнулся с трудностями при попытке создать аналогичную программу для безлимитного холдема. В этом варианте игры можно ставить любую сумму, и синтетический набор данных оказался намного больше, чем те ограниченные модели, которые он создал для лимитного покера и нард. Нейронная сеть Даля, созданная для безлимитной игры, с трудом усваивала огромное количество информации. «Она делала разумные ходы, но так и не достигла того уровня, на который я рассчитывал», – признался он.
Даль долгие годы боролся с этой проблемой. Основным препятствием было то, что он сам толком не понимал, как работает его покерный бот. Интерпретировать структуру нейронной сети было не проще, чем нервную систему какого-нибудь беспозвоночного: разгадать стратегию игры, анализируя отдельные весовые коэффициенты сетки, сродни попытке расшифровать сознание, исследуя клетки мозга под микроскопом.
Это и было главным упреком в адрес нейронных сетей и основой предвзятости к ним академического мира. Как только нейронная сеть достигала предела в своем обучении – а такое случалось почти всегда, – редко удавалось найти очевидный путь к дальнейшему совершенствованию. Классическое программирование было четким и логичным, а работа с нейронными сетями требовала совсем другого мышления. Даль сравнивал это с проведением биологического эксперимента: результаты непредсказуемы и даже изменение незначительных на первый взгляд параметров может привести к самым неожиданным последствиям. Он испробовал все, что смог придумать, чтобы довести своего бота до уровня эксперта в безлимитном покере. Он колдовал над функцией оценки, экспериментировал с памятью компьютера, заменял триггеры активации нейронов и даже создал более простую вселенную данных для изучения ботом, но так и не добился успеха.
В конце концов Даль, как и многие исследователи нейронных сетей до него, отступил. Он бросил своего покерного бота и занялся анализом медицинских данных с использованием привычных методов. Многие критики нейронных сетей проходили этот путь, сначала добившись успеха с использованием этой технологии, а затем после множества неудач зайдя в тупик и разочаровавшись. Даль не пополнил армию скептиков, но его вера подверглась серьезному испытанию. «Я сдался, – признается человек, который первым продал нейронную сеть широкой публике. – Я оставил это, потому что у меня просто не было необходимых знаний». Он перепробовал все и не нашел решения. Он просто не мог даже представить, как добиться успеха в разработке нейронных сетей.
Глава 7
Смертельная схватка
Джонатан Вендел прицелился в груду боеприпасов и замер в ожидании. Один из первых профессиональных геймеров, он был известен под ником fatal1ty и к 1999 году уже метил в мировые чемпионы. За его плечами была впечатляющая серия побед на турнирах по Quake III: Arena. Его сильной стороной была способность предугадывать действия противника. На этот раз он заметил, что соперник питает слабость к боеприпасам, и готовился устроить ему ловушку.
В отличие от большинства профессиональных геймеров, типичных «ботаников», Вендел был похож на спортсмена из комедий 1980-х: голубоглазый, русоволосый, с широким мужественным лицом. Помимо видеоигр он увлекался вполне реальными видами спорта: хоккеем, теннисом и гольфом. Его талант побеждать в Quake проявился в 1996 году: ему было всего пятнадцать, но он разгромил сотню студентов на турнире в Уичито, штат Канзас. Он поступил в колледж, но бросил его, чтобы стать одним из первых, кто зарабатывает на жизнь видеоиграми. «Если ты выиграл всего один турнир, о тебе быстро забудут, – говорит Вендел, ссылаясь на своего кумира Тайгера Вудса. – Все эти люди не вспомнят обо мне, если я не буду побеждать снова и снова».
Вендел погрузился в Quake с одержимостью профессионального спортсмена. Он проводил тренировочные бои по 8–12 часов в день и даже расстался с девушкой, чтобы больше времени уделять подготовке. Он выиграл десятки турниров и семь лет подряд оставался самым высокооплачиваемым киберспортсменом. Однажды после победы на турнире в Техасе Вендел, сорвав наушники, вскинул руку с кулаком и издал торжествующий вопль. Его соперник, щуплый очкарик, лишь глубже спрятался в толстовку с капюшоном. Вендел, возвышаясь над ним в куртке NFL и широких штанах, выглядел так, словно вот-вот устроит сопернику настоящую взбучку.
Каждое действие Вендела занимало миллисекунды. Он оттачивал навыки молниеносной стрельбы с помощью специальных упражнений. Сидя перед монитором с пальцем на кнопке мыши, он ждал, когда экран станет зеленым, и тут же нажимал на нее. Тренировки позволили ему сократить время реакции до 140 миллисекунд. Между компьютерными сессиями Вендел бегал на длинные дистанции, полагая, что это улучшает его рефлексы. Любитель спортивных метафор, он сравнивал себя с пилотом «Формулы–1», вдавливающим педаль газа в пол в начале гонки.
…Вендел напряженно вслушивался в наушниках в приближающиеся шаги соперника, идущего прямиком к боеприпасам. Годы тренировок не подвели: он мягко опустил палец на кнопку мыши, готовясь к решающему моменту. Суть его тактики заключалась в том, чтобы открыть огонь за мгновение до появления противника на экране. В критический момент Вендел нажал на кнопку, и время словно замедлило ход.
Вендел использовал для игры акселератор TNT2 от Nvidia. Если обычные графические процессоры могли выдавать скорость рендеринга Quake III на уровне 20–30 кадров в секунду, то технология параллельной обработки данных, применяемая Nvidia, повышала этот показатель до 60–70 кадров. Благодаря этому в 140-миллисекундном интервале реакции Вендела количество кадров удваивалось с пяти до десяти. Это стало тем преимуществом, которое было необходимо ему для победы.
Вендел начинал стрелять буквально за кадр или два до того, как появлялся противник. Проходило 30 миллисекунд – всего три сотых секунды, и враг оказывался на линии огня. Акселератор Nvidia снова и снова обновлял графическую картинку, проводя с каждым обновлением около 200 миллионов вычислений, и с каждым кадром противник нес все больший урон. Вендел наслаждался стонами врага в наушниках, пока тот наконец не переставал дышать, а fatal1ty при этом добавлял очередную победу в свой актив.
Вендел сравнивал свои
