Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Книга исследует сложные и многогранные отношения между искусственным интеллектом (ИИ), человеческим опытом и восприятием технологий в современном обществе. Автор начинает с примера стартапа в Израиле, создавшего программу для аудиораспознавания эмоций. Это приложение анализирует интонацию и тон голоса, позволяя выявлять эмоциональное состояние пользователей и даже медицинские риски. Несмотря на восторг, вызванный подобным достижением, автор ставит вопрос о том, насколько тонкие и сложные человеческие эмоции могут быть правильно интерпретированы машинами. Этот парадокс между восхищением от технологий и пониманием их ограничений пронизывает всю книгу. Далее рассматривается внедрение ИИ в различные области жизни, от медицины до политики, и как это меняет общественное восприятие технологий. Сначала искусственный интеллект воспринимается как нечто экзотическое и устрашающее, но с течением времени становится обыденным и привычным. Несмотря на потенциальные этические и эмоциональные риски, с каждым новым шагом в развитии технологий общество быстро адаптируется, постепенно теряя первоначальные страхи. Автор делает вывод, что история человеческого восприятия технологий проходит циклы удивления, тревоги и привыкания. Важной частью книги является сравнение современных технологий с историческим примером "Механического турка" Вольфганга фон Кемпелена, автоматической шахматной игры, которая иллюстрирует ранние попытки понять, может ли машина имитировать человеческое мышление. За успешной игрой скрывался человек, управляющий механизмом, что подчеркивает привычку общества создавать мифы о "магии" технологии. Автор говорит о том, что и сегодня многие инновации поддаются подобной иллюзии, когда люди могут воспринимать машины как обладающие осмысленностью, в то время как за их успехом стоит труд человека. Книга также обращается к точным наукам, описывая различные техники машинного обучения: обучение с учителем, подкрепление и без учителя, а также концепцию глубокого обучения. Автор подчеркивает ограниченность ИИ, который, хотя и способен обрабатывать огромные объемы данных, не может разрабатывать понятия так, как это делает человек, и, следовательно, не способен к истинному пониманию и обобщению. Важная тема книги — роль людей в процессе обработки данных для обучения ИИ, что иллюстрируется сервисом MTurk, где низкооплачиваемые работники выполняют рутинные задачи, тем самым создавая "цифровой пролетариат". Это создает намек на необходимость защиты прав таких работников и формирования сообществ для улучшения их условий труда. Затем автор приводит личный опыт героя, который сталкивается с бюрократическими исчерпывающими процедурами на контроле в аэропорту, что ставит под сомнение человеческое качество в механических системах. Герой начинает осознавать необходимость привнесения человечности в бюрократию и обращается к ИИ как к инструменту, способному освободить людей от рутинной механизации. К концу книги автор рассматривает философские аспекты создания ИИ и предполагает, что сложные человеческие цели и моральные ценности трудно выразить в цифровом формате. Позиции современных философов, таких как Бостром, подчеркивают, что человеческие ценности смеются в сложных и неоднозначных понятиях, и что ИИ не способен понять и реализовать эти цели без наличия базового человеческого опыта, связанного с эмоциями и телесностью. Таким образом, произведение является глубоким размышлением о месте и будущем ИИ в человеческом опыте, его потенциальных рисках и возможностях, а также о том, как важно сохранять критическое мышление по отношению к новым технологиям, которые становятся частью нашей повседневной жизни.