Квазилюди Искусственного Интеллекта - стр. 2
Опасность традиционного развития усилилась, когда на горизонте появилась новая угроза. Под лозунгом современного общества «максимально облегчить» жизнь людей, создать для них более комфортные условия привела к идее наделить компьютер свойством Искусственного Интеллекта. А уж он, как утверждали его сторонники, освободит человека от многих бытовых забот и необходимости выбирать и даже реализовать свои решения. Ведь человек при этом может ошибаться. А искусственный интеллект – никогда. Ну, практически, с минимальной, как говорили, погрешностью.
Конструктивной формой Искусственного Интеллекта могли быть роботы. Их внешний вид зависел от области применения. И вот компания пропаганды разработки «думающих» роботов приобрела грандиозный масштаб. Но исторический опыт показывает, что природный интеллект человека иногда предлагает такие действия, что потом долго приходится исправлять последствия. И не приведёт ли разрабатываемый интеллект роботов к аналогичным результатам? Опасение этого привели к потокам предположений в виде: «Терминатор 1», «Терминатор 2» и так далее. Предсказывалось, что роботы, развив интеллект до высокого уровня, вознамерятся обходиться вообще без живых людей. А для этого надо просто их уничтожить.
В связи с этим живущие на Земле люди обеспокоились о своей судьбе. Ну, кто же захочет быть пассивной массой, согласной со своим исчезновением как одного из субъектов общей биосферы. Заседали, обсуждали и пришли к рекомендации законов, которые надо использовать при создании роботов, наделённых Искусственным Интеллектом.
Во-первых, робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Во-вторых, робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
В-третьих, робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Законы-то хорошие, но где гарантии, что Искусственный Интеллект не «придумает» какого-то обходного пути для недопустимых действий. Да и «вред» – понятие относительное. Что одному – вред, другому – добро.
На этом фоне связь с внеземными цивилизациями обладает той же опасностью. По имеющимся контактам все они в пределах нашей Галактики относятся к другим, вроде бы, доброжелательно. Но ведь истинные намерения можно и скрывать. И кто они, эти новые знакомые на самом деле?
Для решения этого вопроса организовали «Галактический клуб» и на его виртуальном заседании согласовали периодические прямые контакты путём приёма каждым из членов клуба контролирующих делегаций.
Космический корабль, если так можно назвать собранную уже в космосе платформу, предназначенную для длительных межпланетных полётов, приближался к цели, назначенной руководством «Галактического клуба». Как и во всех предыдущих случаях, его штаб выработал и рекомендовал процедуру контроля. Он предупредил о несколько странной информации с непосещаемой ещё до этого планеты. Никаких тревожащих черт поведения из их посланий не просматривалось. Создавалось впечатление о полном благополучии. Но это порой и оказывалось показателем беспредельной власти роботизированного Искусственного Интеллекта.
В связи с этим штабом клуба рекомендовалось на время проведения контроля состояния планеты корабль с делегацией держать на околопланетной орбите. А непосредственно контакт с обитателями осуществлять небольшими группами специалистов. Для их посадки на поверхность были предусмотрены малогабаритные челноки.