Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - Фрэнк Паскуале

665

Художественное описание цифровых сущностей с потенциально ограниченным сроком жизни, но обладающих личностью и интеллектом, см. в: Ted Chiang, The Lifecycle of Software Objects (Burton, MI: Subterranean Press, 2010).

666

Hubert L. Dreyfus, What Computers Still Can’t Do, rev. ed. (Cambridge, MA: MIT Press, 1992). «Мой тезис, который многим обязан Витгенштейну, состоит в том, что всякий раз, когда человеческое поведение анализируется в категориях правил, такие правила всегда должны содержать условие ceteris paribus, то есть они применяются „при прочих равных условиях", и что именно является „прочим", и в чем оно „равно" – все это в каждой конкретной ситуации никогда нельзя прояснить полностью без регресса. Кроме того, это условие ceteris paribus – не просто помеха… Скорее, оно указывает на фон практик, которые являются условием возможности любой правилосообразной деятельности. Объясняя наши действия, мы рано или поздно должны вернуться к нашим повседневным практикам и просто сказать „вот что мы делаем“ или „вот что значит быть человеком". Поэтому в конечном счете любая понятность и любое понятное поведение должны возводиться к нашему ощущению того, кто мы такие, которое, согласно этой логике, если только избегать бесконечного регресса, обязательно является тем, что мы не никогда не можем в явной форме знать» (Ibid., 56–57). Другими словами, «поскольку у разума должна быть своя ситуация, он не может быть отделен от остальной человеческой жизни» (Ibid., 62).

667

Бруссард, Искусственный интеллект: пределы возможного.

668

Carrie Goldberg, Nobody’s Victim: Fighting Psychos, Stalkers, Pervs, and Trolls (New York: Plume, 2019).

669

Sasha Costanza-Chock, Design Justice: Community-Led Practices to Build the Worlds We Need (Cambridge, MA: MIT Press, 2020).

670

George Lakoff and Mark Johnson, Philosophy in the Flesh: The Embodied Mind and the Challenge to Western Thought (New York: Basic Books, 1999), 4.

671

Ник Востром, Искусственный интеллект. Этапы. Угрозы. Стратегии (Москва: Манн, Иванов и Фербер, 2016), 214–215.

672

Примеры таких недостатков см. в: Rana Foroohar, Don’t Be Evil: How Big Tech Betrayed Its Founding Principles – And All of Us (New York: Currency, 2019); Amy Webb, The Big Nine: How the Tech Titans and Their Thinking Machines Could Warp Humanity (New York: Public Affairs, 2019).

673

Байрон Риз весьма категоризирует эти метафизические вопросы в работе: Byron Reese, The Fourth Age: Smart Robots, Conscious Computers, and the Future of Humanity (New York: Simon and Schuster, 2018),15-54.

674

Paul Dumouchel and Luisa Damiano, Living with Robots, trans. Malcolm DeBevoise (Cambridge, MA: Harvard University Press, 2017), 21–23, 167–169.

675

И здесь тоже применимы возражения Сержа Тиссерона на механизированную эмоцию как «запрограммированную иллюзию». См.: Catherine Vincent, “Serge Tisseron: ‘Les Robots vont Modifier la Psychologic Humaine,’” Le Monde, July 12, 2018, https://www. Iemonde.fr/idees/article/2018/o7/12/serge-tisseron-les-robots-vont-modifier-la-psychologie-humaine_5330469_3232.html.

676

Конечно, человеку можно было бы ввести обезболивающее, и, возможно, медицина в будущем сможет применять безопасные и быстродействующие болеутоляющие. Но даже если такой желательный краткосрочный паллиатив возможен, трудно представить, как он мог бы постоянно применяться во время восстановления от травмы, учитывая, что боль может работать в качестве показателя неспособности излечиться.

677

Kiel Brennan-Marquez and Stephen E. Henderson, “Artificial Intelligence and Role-Reversible Judgment,” The Journal of Criminal Law and Criminology 109, no. 2 (2019): 137–164.

678

Matthew Lopez, The Inheritance (London: Faber, 2018), 8.

679

Литературную точку зрения на две эти возможности см. в: Walker Percy, “The Man on the Train,” in Message in a Bottle: How Queer Man Is, How Queer Language Is, and What One Has to Do with the Other (New York: Picador USA, 2000), 83-100.

680

GertJ. J. Bietsa, The Beautiful Risk of Education (London: Routledge, 2016).

681

Brett Frischmann and Evan Selinger, Re-engineering Humanity (Cambridge: Cambridge University Press, 2018), 269–295.

682

Frank Pasquale, “Cognition-Enhancing Drugs: Can We Say No?” Bulletin of Science, Technology, and Society 30, no. 1 (2010): 9-13; John Patrick Leary, “Keywords for the Age of Austerity 19: Resilience,” Keywords: The New Language of Capitalism (blog), June 23, 2015, https://keywordsforcapitalism.com/2015/o6/23/keywords-for-the-age-of-austerity-19-resilience/.

683

Джонатан Крэри, 24/7: поздний капитализм и цели сна (Москва: Издательский дом Высшей школы экономики, 2021).

684

Ray Kurzweil, The Age of Spiritual Machines: When Computers Exceed Human Intelligence (New York: Penguin, 1999), 166.

685

Sean Dorrance Kelly, “A Philosopher Argues That an Al Can’t Be an Artist: Creativity Is, and Always Will Be, a Human Endeavor,” MIT Technology Review, February 21, 2019, https://www.technologyreview. com/s/612913/a-philosopher-argues-that-an-ai-can-never-be-an-artist/.

686

Описание многочисленных пробелов в тесте Тьюринга см. в: Brett Frischmann and Evan Selinger, Re-engineering Humanity.

687

Margaret Boden, Al: Its Nature and Future (Oxford: Oxford University Press, 2016), 119. To же относится и к эмоции, о чем мы говорили, когда обсуждали «заботящихся» роботов в главе 2.

688

Gabe Cohn, “Al Art at Christie’s Sells for $432,500,” New York Times, October 25, 2018, https://www.nytimes.com/2018/10/25/arts/design/ ai-art-sold-christies.html.

689

Tyler Sonnemaker, “No, an Artificial Intelligence Can’t Legally Invent Something – Only ‘Natural Persons’ Can, Says US Patent Office,” Business Insider, April 29, 2020, https://www.businessinsider. com/artificial-inteligence-cant-legally-named-inventor-us-patent-office-ruling-2020-4.

690

Korakrit Arunanondchai, With History in a Room Filled with People with Funny Names 4, 2018, DCP, 24:00; Adriana Blidaru, “How to Find Beauty in a Sea of Data: Korakrit Arunanondchai at CLEARING,” Brooklyn Rail, May 2017, https://br00klynrail.0rg/2017/05/film/H0w-to-find-beau ty-in-a-sea-of-data-Korakrit-Arunanondchai-at-C–L-E-A-R-I-N-G.

691

Lawrence Joseph, “Visions of Labour,” London Review of Books 37, no.

12 (June 18, 2015), https://www.lrb.co.uk/v37/n12/lawrence-joseph/ visions-of-labour. Я хотел бы поблагодарить Джозефа