Страшно умный интеллект. Будущее ИИ и как вы можете спасти наш мир - стр. 8
Как ребенок способен найти связь между цилиндрической деталью и круглым отверстием, так и Watson мог бы научиться видеть в социальной изоляции, насилии и нарциссизме, даже в буллинге, некий паттерн предпочтений людей. И если бы его попросили решить – как головоломку – основные проблемы человечества, Watson использовал бы данную информацию в выработке решения. Эта книга именно о том, как по-другому информировать Watson и ему подобных, чтобы принимаемые решения не основывались на насилии, высокомерии или эгоцентризме, достаточно частых в мире людей.
Я бы очень хотел придерживаться максимально простых понятий, однако для того, чтобы вы до конца поняли то сложное будущее, которое описывается в книге, нам придется несколько углубиться в детали проблемы. При этом я буду и дальше стараться представлять каждую конкретную концепцию как можно проще, избегая технической терминологии. Когда вы доберетесь до конца книги, все это уляжется и утрясется у вас в голове, но пока подобного не случилось, какие-то вещи могут казаться вам слишком сложными. Чтобы не сбиться с пути, просто запомните простую модель: «3 × 3 приведет нас к 3 + 3».
В будущем нас ждут три события, которые являются неизбежными вне зависимости от того, что мы делаем или не делаем сегодня. Вот эти события: ИИ будет властвовать, остановить его нельзя; ИИ станет умнее людей; ошибки, способные повлечь за собой проблемы, будут случаться.
Создаваемые нами машины, как и любые другие разумные существа, будут руководствоваться в своем поведении тремя инстинктами выживания и успеха: делать все возможное для самосохранения, стараться накапливать ресурсы, созидать.
Интереснее то, что они определенно будут обладать тремя качествами, которые всегда являются предметом жарких дебатов: сознанием, эмоциями и этикой. Разумеется, точная природа того, что они будут держать в своем сознании, что будет вызывать у них эмоции и на чем будет основываться их этика, пока неизвестна, но того факта, что в своем поведении они начнут руководствоваться названными человеческими качествами, это не отменяет.
Я подробно объясню, какая логика скрывается за такими утверждениями, и постараюсь убедить вас в их истинности. После этого вам нетрудно будет принять как данность некоторые ключевые аспекты. В первую очередь мы должны быть готовы к тому, что нам будет просто не по силам сдерживать или ограничивать развитие машин, которые станут гораздо умнее нас. Мы, конечно, можем постараться оказывать на них свое позитивное влияние, особенно пока они еще в юном возрасте, но времени у нас не так уж и много, ведь юность быстро проходит – действовать следует уже сейчас. Наконец, со временем все более очевидным будет становиться тот факт, что наибольшей силой влияния на будущее обладают вовсе не разработчики и не хозяева этих машин: наше будущее – только в наших с вами руках!
Такая ответственность не должна вас тревожить. Действия, которые мы должны предпринять, достаточно простые, интуитивно понятные и вполне соответствующие человеческой природе. Нужно лишь сделать их приоритетными. Чтобы мы могли спасти наше будущее, я попрошу вас сосредоточиться на трех вещах. Эти три вещи… осторожно, спойлер!
Наверное, пока мне не стоит об этом говорить. Они покажутся вам более убедительными и уместными, когда вы по-настоящему оцените масштаб проблемы, с которой мы имеем дело.