Цифровая революция. Преимущества и риски. Искусственный интеллект и интернет всего - Елена Сергеевна Ларина

подключают один из наиболее мощных ИИ, работающих на оборону и разведку. Получив его ошеломительный прогноз, Д. Трамп выступает и сообщает, что в ближайшие месяцы от коронавируса умрет 150-240 тыс. граждан. Выступление происходит в чрезвычайно напряженной обстановке. Конгресс США решает судьбу $2,2 трлн, которые должны быть эмитированы на борьбу с последствиями коронавируса в американской экономике. После эмоционального выступления Д. Трампа Конгресс голосует – за. На крупнейшие американские банки и корпорации, а также немного на мелкий и средний бизнес и население обрушивается долларовый дождь. После принятия решения о беспрецедентной эмиссии эксплуатанты ИИ выдают новый прогноз и сообщают, что смертность в США не должна превысить 25-30 тыс. человек. Впрочем, прогнозные цифры продолжают сыпаться как из рога изобилия и уже 18 апреля 2020 года, выступая на представлении Программы помощи фермерам, Д. Трамп озвучивает новые цифры – «пандемия коронавируса в США предположительно унесет 60-65 тыс. жизней». Как говориться, любой каприз за ваши деньги.

Сегодня очевидно, никакой самостоятельной, исключительной ценности у ИИ пока нет. ИИ – это не более чем хорошо знакомая по 70-90-м годам прошлого века, а теоретически описанная еще ранее, система поддержки работы экспертов, принимающих или советующих принять решения. В 70-90-е годы прошлого века под названием экспертные системы успешно применялись в Пентагоне и крупнейших американских финансовых корпорациях.

Второе ИИ нуждается в огромных данных

Журналисты, разработчики, собственники технологических компаний и инвесторы постоянно убеждали общество, что ИИ вот-вот превзойдет человека. Они доказывали это победами ИИ над человеком в шахматах и го, а также его триумфом над людьми в конкурсе Jeopardy. Однако они не хотели открыть общественности, финансистам и политикам свою тайну. Она заключается в том, что эти победы были добыты благодаря хорошо известным с середины прошлого века методам распознавания шаблонов на основе комбинаторики и оптимизации. Для того чтобы решить даже простую статичную задачу ИИ нужны тонны предварительных данных с заранее известными результатами. Кроме того, для обучения используется так называемое комплексное вычислительное моделирование. Без комбинаторики и комплексного вычислительного моделирования ИИ ничего не может сделать.

Это объясняет, почему ИИ не смог предсказать динамику и особенности Covid-19. У него просто отсутствовали данные о предыдущих аналогичных вспышках. Covid-19, судя по всему, – это принципиально иная вирусная конструкция, отличающаяся от известных человеку вирусов, порождавших эпидемии (отсюда – непрекращающиеся споры видных учёных об искусственном или природном возникновении Covid-19). Однако разработчики и пользователи ИИ для прогнозирования динамики Covid-19 использовали исторические данные по ОРВИ, гриппу и т. п. Отсюда ошибки и просчеты.

Таким образом, в рамках скептического подхода к ИИ очень важно выяснить, на основе каких конкретных данных ИИ осуществляет прогноз развития пандемии принципиально нового вируса. Хотя инфекционные эпидемии значительно различаются по динамике и проявлению между собой из-за различных характеристик вируса, фактически прогнозы о распространении принципиально нового вируса ИИ строит по прежним данным, характеризующим совершенно другую вирусную картину. ИИ может эффективно прогнозировать и анализировать стандартные и рутинные процессы, однако бессилен в прогнозировании принципиально новых, не имевших аналогов в прошлом процессов. В данном случае ИИ просто не на чем учить.

Многие правительства возложили чрезмерные надежды на ИИ, забыв об уроках IBM Watson. Несмотря на первоначальные надежды, Watson так и не смог стать мощной медицинской системой, самостоятельно диагностирующей онкологические, сердечно-сосудистые и некоторые другие заболевания на ранних стадиях, как на это надеялась IBM. Если бы неудачи в использовании ИИ разбирались столь детально и тщательно, как успехи, то лица, принимающие решения, узнали бы, что основные ошибки Watson делал в тех случаях, когда различные болезни имели примерно схожие симптомы. При этом онкологи и кардиологи задачу диагностики решали на порядки более эффективно, чем Watson. При этом они высоко оценивали Watson как экспертную систему, позволяющую собирать, аккумулировать, структурировать данные и строить различного рода классификаторы и аналитические таблицы, помогающие медикам принять решения.

Уже в ходе текущей пандемии системы наблюдения, в том числе в Китае, увязывающие распознавания лиц с данными тепловизоров и измерения температур, первоначально использовались для выявления людей с подозрением на коронавирус и их изоляции. Однако достаточно быстро было установлено, что сама по себе повышенная температура, особенно в пределах 37.3-37.5 градусов не является значимым фактором при диагностике Covid-19.

Третье Не доверяйте ИИ там, где требуется точность

Компания Alibaba утверждала, что разработала платформу ИИ, которая использует КТ изображения для надежной диагностики Covid-19. В этой связи Bloomberg сообщал, что компания предлагает это диагностическое программное обеспечение странам ЕС бесплатно. Многие этому очень рады. В настоящее время диагностика Covid-19 осуществляется в рамках так называемой полимеразной цепной реакции (ПЦР). Она требует специализированного оборудования и предусматривает достаточно длительный период получения результата. Alibaba сообщала, что может получить анализ гораздо быстрее, дешевле, с 96 % точностью.

Проблема, однако, в том, что лучшие профессионалы в области ИИ отлично знают, что при использовании машинного обучения точности 96 % достичь очень и очень сложно. Как правило, эксплуатанты ИИ достаточно быстро выясняют, что на практике завышенный процент точности, полученный на учебных данных, недостижим. А соответственно диагностика и прогнозы гораздо более неточны, чем в рекламных материалах. То, что Alibaba утверждала, что ее модель хорошо работает, но при этом она не может раскрыть алгоритмы, является дополнительным аргументом в пользу сомнений и недоверия. При диагностике очень важно не допускать ошибок. Гораздо хуже ошибочно предположить, что человек с Covid-19He болен (это может позволить ему продолжать заражать других), чем предположить, что здоровый человек имеет Covid-19. Неточная диагностика ИИ делает такую ситуацию весьма возможной.

Четвертое ИИ – перформанс и реальный мир

Обстоятельства, в которых развертывается ИИ, также могут иметь огромное значение и последствия для определения, насколько он эффективен. Когда модели ИИ, и это отлично знают инвесторы и финансисты, на которых, прежде всего, рассчитан ИИ, покидают лаборатории, центры разработки и начинают делать реальные прогнозы, они почти всегда ухудшают результаты и производительность по сравнению с их испытаниями у изготовителей. При оценке КТ модель, которая может различать здоровых и тех, кто болен Covid-19, имеет большие шансы потерпеть наудачу, когда столкнется с пациентами, которые больны обычным регулярным гриппом. Соответственно модель будет считать больных гриппом больными Covid-19. Это приведет к еще большей перегрузке учреждений здравоохранения и заметно исказит картину действительного распространения эпидемии и ее интенсивности.

В недавней работе относительно использования ИИ для диагноза злокачественных родинок на основе распознавания образов было на конкретных цифрах, примерах и фотографиях показано, что зачастую модель принимала доброкачественные родинки за злокачественные. При этом если модель использовалась в паре с опытным онкологом,