Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов

— оказалось пророческим. Вся последующая история искусственного интеллекта стала грандиозной, растянувшейся на десятилетия игрой в имитацию человеческого разума.

Не имея полного чертежа того, как работает наше мышление, мы пытались воспроизвести его по частям, имитируя те его аспекты, которые казались нам ключевыми.

Эта игра разворачивалась в три большие волны, каждая из которых была продиктована своим, доминирующим на тот момент представлением о природе интеллекта. Первая стратегия в этой игре была самой очевидной: имитировать нашу способность к логическому рассуждению.

Первая волна: символический ИИ, 1950–1980-е

Все законы мышления суть по своему характеру математические.

Джордж Буль

Ещё в XVII веке Готфрид Лейбниц грезил об универсальном символическом языке, способном свести все человеческие рассуждения к строгому вычислению[133]. Веком ранее Томас Гоббс в «Левиафане» сформулировал это так: «Когда человек рассуждает, он ничего иного не делает, как составляет сумму… ибо рассуждение есть не что иное, как счисление»[134].

В середине XX века, с появлением цифрового компьютера, этот проект, казалось, наконец-то обрёл искомый инструмент. Машина, оперирующая символами, стала идеальным кандидатом на роль «мыслителя по правилам». Это было время опьяняющего оптимизма, рождённого на стыке философской мечты и новой технологической реальности.

Торжество логики

Во время знаменитой Дартмутской летней конференции 1956 года, которая утвердила само понятие «искусственный интеллект», отцы-основатели новой науки — Джон Маккарти, Марвин Минский, Натаниэль Рочестер и Клод Шеннон — высказались на этот счёт достаточно ясно: «Исследование будет исходить из предположения, что каждый аспект обучения или любая другая черта интеллекта могут быть в принципе настолько точно описаны, что можно создать машину для их симуляции»[135].

Это была декларация веры в то, что разум — это программа, которую возможно воссоздать на компьютере. И первые результаты действительно были ошеломляющими: уже в 1956 году Аллен Ньюэлл и Герберт Саймон представили Logic Theorist, программу, которая самостоятельно доказала 38 из 52 теорем из «Principia Mathematica» Бертрана Рассела и Альфреда Норта Уайт-хеда[136].

И речь здесь идёт не просто о вычислениях, а об абстрактном рассуждении. И этот успех породил почти безграничную уверенность — в 1965 году Саймон писал: «Машины смогут в течение двадцати лет выполнять любую работу, которую может выполнять человек»[137].

Замкнутые миры

Апогеем этого подхода в 1971 году стала программа Терри Винограда SHRDLU[138]. Виртуальная рука-манипулятор взаимодействовала с кубиками и пирамидами разного цвета и размера, понимала команды на естественном языке («Положи синий кубик на красный блок в ко-робке») и отвечала на вопросы о своих действиях.

Возникала мощнейшая иллюзия понимания. Впрочем, мир программы был полностью формализован и исчерпывающе описан, чего, конечно, никогда не бывает в реальности.

Одновременно Марвин Минский пытался решить проблему здравого смысла через концепцию «фреймов»[139]. Фрейм — по сути, шаблон, структура данных для представления стереотипной ситуации, такой как «посещение ресторана» или «детский день рождения».

Минский предположил, что наше знание о мире организовано в виде таких ментальных каркасов, и если мы сможем снабдить машину достаточным количеством фреймов, она обретёт здравый смысл.

Разум — это больше, чем правила

Впрочем, уже на пике оптимизма стало понятно, что с символическим подходом что-то не так. Главным его критиком стал философ Хьюберт Дрейфус. В своей книге «Чего не могут вычислительные машины» 1972 года он, опираясь на феноменологию Мартина Хайдеггера и Мориса Мерло-Понти, утверждал, что человеческий интеллект не является символическим вычислением[140].

Он последовательно доказывал, что наш интеллект «воплощён» и «ситуативен»: мы понимаем мир не потому, что следуем набору правил, а потому, что обладаем телом и интуитивным «чувством ситуации», которое формируется миллионами лет эволюции и годами жизни в мире.

Проблема, которую описал Дрейфус, в инженерии получила название проблемы фрейма, или проблемы здравого смысла. Оказалось, что для функционирования в реальном мире машине требуется практически бесконечное число правил.

Как описать тот факт, что если поднять чашку, то чай в ней тоже поднимется, а кошка, сидящая рядом, — нет? Человек знает это интуитивно, но для машины это требует явного правила. Мир оказался слишком сложным, слишком текучим и неоднозначным, чтобы его можно было заключить в жёсткие рамки символов и фреймов.

Так что символические системы оказались хрупкими стеклянными конструкциями. Внутри своих игрушечных миров они демонстрировали настоящие чудеса, но при столкновении с непредсказуемостью реальной жизни тут же рассыпались.

Разум, как выяснилось, не может существовать без «сцеп-ления» с реальностью. И осознание этого факта привело к знаменитой «зиме» искусственного интеллекта — вера в то, что мы в принципе сможем воспроизвести человеческий разум, оказалась фундаментально подорвана.

Вторая волна: коннекционизм и Deep Learning, 1980–2010-е

Что за волшебный трюк делает нас разумными?

А трюк в том, что никакого трюка нет.

Марвин Минский

Мы выяснили, что запрограммировать разум «сверху вниз» — от логических правил к реальности — нельзя. Но что если попытаться вырастить его «снизу вверх»?

Ещё в 1958 году Фрэнк Розенблатт создал свой «Перцептрон» — простую нейронную сеть, вдохновлённую устройством мозга, которая могла научиться распознавать буквы. Однако его работа была подвергнута сокрушительной критике со стороны столпов символического ИИ — Марвина Минского и Сеймура Паперта — в их знаменитой книге «Перцептроны»[141], что на долгие годы маргинализировало это направление.

Машина-ребёнок

Спустя четверть века эта идея вернулась с новой силой. В самом деле, что если создать машину, которая вместо следования инструкциям будет учиться на опыте, как ребёнок?

Центральной фигурой этого возрождения стал уже хорошо известный нам Джеффри Хинтон. Вместе с Дэвидом Румельхартом и Рональдом Уильямсом он в знаковой статье 1986 года представил «алгоритм обратного распространения ошибки»[142].

По сути, исследователи воспользовались, возможно даже не догадываясь об этом, выдающимся открытием великого отечественного нейрофизиолога Петра Кузьмича Анохина — создали «акцептор результата действия»[143].

Алгоритм позволял сигналу об ошибке, полученному на выходе, вернуться обратно через все её слои, корректируя при этом вес каждой отдельной связи. Нейронная сеть превратилась из статичной структуры в динамичную, обучаемую систему.

Внутренние представления

Именно этот прорыв открыл дорогу работам двум другим «крёстным отцам» глубокого обучения — Яну Лекуну и Йошуа Бенжио.

• Ян Лекун вдохновлялся исследованиями зрительной коры Дэвида Хьюбела и Торстена Визеля[144], разрабатывая свои «свёрточные нейронные сети»[145]. Его программа LeNet смотрела на изображение не как на мешок пикселей, а как на иерархию паттернов: от простых краёв и углов к более сложным формам[146]. По сути, она научилась видеть мир