Роботы-убийцы против человечества. Киберапокалипсис сегодня - стр. 4

Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам».

Хитрость состоит в следующем. Поскольку роботы обладают не просто интеллектом, тем более не человеческим интеллектом, а именно QI, то в их программах должны быть прописаны жесткие правила. В них должно быть четко и главное однозначно определено, кем является человек. Если в программе под человеком понимаются все люди, без исключения, то тогда никакие военные, криминальные или разведывательные роботы невозможны в принципе.

Они не были возможны и раньше. Но сегодня в эпоху прокси-, гибридных, асимметричных, городских войн, использование роботов в военных и иных целях становится в соответствии с законами А. Азимова совершенно немыслимым.

Одной из главных особенностей вооруженных конфликтов является то, что в них теперь сложно определить, когда они начинаются и когда заканчиваются. Противники и союзники постоянно меняются местами. Фронт и тыл больше не существуют. В рамках одного города может идти мирная, повседневная жизнь и происходить вооруженные столкновения. Мирные граждане днем, могут становиться повстанцами ночью и т. п. Не зря наиболее точным названием вооруженных конфликтов современности является термин «нечеткие войны» или «войны без правил», «войны всех против всех».

Это войны, где контекст зачастую важнее того, что непосредственно видно и распознается. Это войны, где зачастую важно не считать, а понимать, где чутье и интуиция на малейшие признаки перевешивает сложные расчеты и многомерные модели. Оно и понятно. Это войны, где решения надо принимать не просто в условиях неопределенности, а по постоянно меняющимся правилам.

Теперь, мы надеемся, понятно, почему роботы, обладающие не искусственным, а вычислительным интеллектом, становятся чрезвычайно опасными, почему в этих условиях не роботы становятся угрозой для людей, а люди, взявшие на вооружение роботов с вычислительным интеллектом, создают невообразимые риски и огромные угрозы всему человечеству.

Не просто с каждым годом, а с каждым месяцем роботы и автономные автоматизированные системы все шире применяются в военном деле, в экономике, в быту. Однако, сама по себе концепция роботов и более того, ее программно-аппаратное воплощение – это не достижение сегодняшнего дня. Первые роботы современного типа появились еще в США, в Советском Союзе. Мало кто помнит, но в последние годы существования СССР робототехникой и полностью автоматизированными линиями, соответствующим лучшим мировым образцам, оснащались предприятия многих отраслей народного хозяйства. Советские беспилотники на рубеже 70-80 гг. прошлого века превосходили по оценкам западным экспертов, своих собратьев-роботов на Западе.

В то же время нельзя не признать, что как бы ни были совершенны роботы XX века, это были роботы прошлого в полном смысле этого слова. Информационная революция, появление интернета, прорывы в области электронных схем и процессоров, микроминиатюризации и производства новых материалов создали все предпосылки для появления роботов, способных реализовать возможности вычислительного интеллекта.

При этом запрещать что-то уже поздно. Джин выпущен из бутылки. Бывший министр обороны США Ч. Хейгел на презентации Третьей стратегической инициативы инвестиций и инноваций, нацеленной на перевооружение армии США, и активно реализуемой Пентагоном, сказал: «Любая высокая технология имеет тройное – гражданское, военное и криминальное – применение».