Страшно умный интеллект. Будущее ИИ и как вы можете спасти наш мир - стр. 7
Но что, если через пару лет машины заметят все возрастающее негативное отношение к жителям Ближнего Востока со стороны американских СМИ, подкрепляемое агрессивно-ненавистническими отзывами со стороны миллионов западных зрителей, просмотревших данный контент? Что, если машины также обратят внимание на уровень доходов пользователей, живущих в беднейших странах Ближнего Востока, и решат, что с точки зрения снижения затрат и экономии энергии разумнее было бы вообще перестать их обслуживать? Что, если у искусственного интеллекта сформируется своя идеология, и он начнет отдавать предпочтение тому сервису, который приносит компании больше дохода, отказываясь размещать видеоролики, не сулящие существенной прибыли? Если искусственный интеллект будет неизменно придерживаться своей новой системы ценностей, миру придется под нее подстраиваться. Миллионы людей постепенно примирятся с теми решениями, которые посчитают для себя приемлемыми машины. И подобный сценарий не назовешь невероятным. Любой разумный человек понимает, что не бывает проблемы с одним-единственным хорошим решением и что выбор ответа целиком зависит как от призмы, через которую на проблему смотрят, так и от системы ценностей, диктующей, какой результат допустимо признать хорошим, когда проблема будет решена. Выбор и решения, принимаемые нашими умными машинами, больше не диктуются программным кодом – они зависят от тех исходных данных, которые мы вводим в машины.
Это воистину монументальный сдвиг в отношении нашей способности программировать деятельность машин. На нас с вами возлагается серьезная ответственность за формирование будущего. Реальность такова, что разработчики технологий больше не обладают всей полнотой контроля над умными машинами, которые они создают.
Чтобы лучше понять данную идею, представьте себе ребенка, занятого головоломкой-сортером: он пытается подбирать нужные детали, соответствующие своей формой разным отверстиям – прямоугольному, круглому, звездообразному. Примерно так же происходит обучение искусственного интеллекта. Никто ведь не стоит над ребенком и не диктует ему, как он должен распознавать фигуры и находить соответствие между ними. Мама просто сидит рядышком и хвалит, когда у ребенка что-то получается. Ее реакции информируют его интеллект. Но разбирается в проблеме ребенок сам, методом проб и ошибок.
Машины учатся аналогичным образом. Однако закономерности, которые они высматривают, иного рода. Возьмем для примера суперкомпьютер IBM Watson, который стал чемпионом телеигры Jeopardy! Чтобы обыграть людей в такой сложной языковой игре, искусственному интеллекту пришлось прочитать четыре с лишним миллиона документов. До сих пор все эти накопленные знания суперкомпьютеру нигде, кроме Jeopardy! не пригождались. Однако вполне вероятно, что эти знания можно было бы использовать повторно для формирования каких-то иных форм интеллекта, например для отыскания закономерностей человеческого поведения на основе анализа прочитанных документов. Своим свежим, незамыленным глазом Watson мог бы легко увидеть все то насилие, которое мы применяли по отношению друг к другу на протяжении XX века, все те бесконечные склоки и ругань между пользователями Facebook уже ближе к концу столетия… А также подъем нарциссизма, проявляющегося в лавине отфотошопленных селфи, – с помощью фотокамеры мобильного телефона их теперь может сделать любой желающий, чтобы поиметь свои 15 секунд славы в Instagram.