Аннотация
Книга, отражая актуальные темы, связанные с искусственным интеллектом (ИИ), начинается с призыва автора обратить внимание на грядущую пандемию ИИ, рассматривая её не только как технологическую новацию, но и как экзистенциальную угрозу для человечества. Автор подчеркивает, что с развитием этой технологии существует необходимость не просто полагаться на специалистов, но также учитывать широкий спектр моральных и этических последствий, которые могут возникнуть. Мытье рук и социализация в условиях COVID-19 становятся знаковыми уроками, но важно помнить, что новые вызовы требуют осознанного подхода к управлению развитием ИИ.
На примере своего опыта работы в Google [X], автор делится личными размышлениями о том, как его оптимистичные взгляды на технологический прогресс мутировали в более осторожные, так как он осознал, что платой за подобные достижения может стать наша человечность. Он привлекает внимание читателя к необходимости совместной ответственности за формирование будущего в эпоху, где ИИ будет играть всё более важную роль.
Далее автор использует метафору инопланетянина с суперспособностями, чтобы изобразить, как развитие ИИ зависит от системы ценностей, внедряемых в технологии. Вопрос о том, какими будут эти ценности, поднимает важную проблему, связанную с тем, что именно мы как общество формируем в происходящих трансформациях, координируя свои усилия для создания более безопасного и благоприятного будущего.
Автор также обсуждает возможность формирования у машин эмоциональных и моральных состояний. Приводя примеры голосового помощника Алиса и Twitter-бота Tay, он подчеркивает, что поведение ИИ, в конечном счете, определяется не только исходным программированием, но и взаимодействием с людьми, что может привести к получению машиной негативных предвзятостей. Это поднимает серьезные этические вопросы о том, какая идеология может быть встроена в ИИ на основе собранных данных и как это способно повлиять на пользователей.
Современные ИИ-системы, как отмечает автор, принимают решения без человеческого контроля, что создает новый уровень риска. Машины могут адекватно реагировать на изменяющиеся условия, но зачастую это происходит в интересах прибыли или экономии, что может негативно отразиться на социальных нормах и моральных стандартах. Таким образом, разработчики технологий и общество в целом несут ответственность за создание системы ценностей, которой будут следовать машины.
Автор продолжает обсуждение ограниченности человеческого интеллекта и важности созданияI новых форм интеллекта, которые могут выйти за пределы способностей человека. Он исследует историю создания искусственного разума, начиная от мифов древней Греции и заканчивая современными проектами. Сравнение с «механическим турком» показывает, как человечество на протяжении веков стремилось создать разумные машины, несмотря на сложности.
К этой теме добавляется современное развитие ИИ и машинного обучения, которые становятся всё более доступными. Однако автор подчеркивает, что до тех пор, пока действительно разумные машины не станут реальностью, текущие технологии останутся всего лишь высокой производительностью механизма, полностью зависящего от человеческого интеллекта и не обладающего осмысленным пониманием.
Заключая, автор подчеркивает, что на горизонте науки и технологий открываются свежие возможности для понимания и применения ИИ, однако необходимо помнить о его долгой истории и культурном контексте, в котором он развивается. Вопросы об этике, сообществе и ценностях стоят в центре дискуссии о будущем человечества в взаимодействии с ИИ, и именно от совместных усилий людей зависит, каким будет это будущее.
