Аннотация
Книга, о которой идет речь, исследует концепцию алгоритмов как наборов инструкций, используемых для решения различных задач, особенно в контексте компьютерных технологий. Она охватывает основные области, в которых используются алгоритмы, такие как расстановка приоритетов, классификация, ассоциация и фильтрация. Более того, автор проводит различие между алгоритмами, основанными на жесткой системе правил, и алгоритмами машинного обучения, каждый из которых имеет свои плюсы и минусы.
Отмечается, что алгоритмы находят широкое применение в нашей жизни: они помогают приоритизировать результаты поиска в интернете, распознавать изображения и переводить текст на различные языки. Преимущества алгоритмов машинного обучения заключаются в их способности к самообучению и нахождению оптимальных решений. Однако автор подчеркивает, что их внутренний механизм может оставаться непонятным для людей, что вызывает определенные опасения.
Автор обращает внимание на потенциальные угрозы, связанные с использованием интеллектуальных машин, таких как алгоритмы, которые могут принимать важные решения в таких областях, как здравоохранение и правосудие. Однако он призывает не сосредотачиваться на гипотетических сценариях о том, как искусственный интеллект может угрожать человечеству. Вместо этого стоит обращать внимание на реальные проблемы, которые возникают из-за использования алгоритмов в критически важных областях и критически осмысливать, насколько мы можем им доверять.
В качестве примера автор рассматривает случай в штате Айдахо, где алгоритм автоматически снизил пособия для инвалидов без объяснения причин. Это решение стало причиной обращения пострадавших в Американский союз защиты гражданских свобод. Выяснилось, что программа, принимавшая решения о пособиях, была "противоречащей Конституции" из-за ошибок и сбоев в данных. Этот случай подчеркивает важность человечности и человеческого вмешательства в алгоритмические процессы, что может помочь избежать катастроф или значительных нарушений прав.
Книга также приводит пример трагедии в парке аттракционов Alton Towers, где неправильно установленная вагонетка привела к столкновению и серьезным травмам у посетителей. Это происшествие произошло из-за того, что инженеры проигнорировали сигналы безопасности, акцентируя внимание на том, что человеческий фактор может играть решающую роль в предотвращении трагедий.
В результате автор подводит читателя к выводу о том, что необходимо тщательно балансировать между использованием машин и человеческим контролем в критических ситуациях, где могут зависеть жизни людей. Учитывая реальную природу проблем, возникающих при использовании алгоритмов, особенно в важных сферах, автор призывает к осознанному и ответственному подходу к их применению.
