Страшно умный интеллект. Будущее ИИ и как вы можете спасти наш мир - стр. 4
Согласно прогнозам, к 2049 году – то есть, возможно, еще при жизни нашего, и уж точно следующего поколения – ИИ будет в миллиард раз умнее (во всем) самого умного из людей. Только представьте: ваш интеллект в сравнении с интеллектом этой машины будет сопоставим с интеллектом мухи и Эйнштейна соответственно. И тут наступает момент, называемый сингулярностью, – момент, за которым любые прогнозы уже немыслимы. Заглянуть еще дальше становится совершенно невозможно. Мы не способны представить, как будет вести себя ИИ в дальнейшем, поскольку имеющиеся у нас знания для экстраполяции просто не годятся.
И здесь возникает вопрос: как нам убедить это суперсущество, чтобы оно не прихлопнуло нас как муху? Я имею в виду, что мы, люди, коллективно и индивидуально, при всем нашем могучем интеллекте, до сих пор так и не удосужились оценить и проанализировать столь простую ситуацию: когда наши машины с искусственным интеллектом (которые пока еще младенцы) достигнут подросткового возраста, какой путь они изберут – супергероев или суперзлодеев? Хороший вопрос, не так ли?
Когда мощь сверхразума развернется по-настоящему, произойти может что угодно. Хотелось бы верить, что эта новая форма интеллекта с ее свежим взглядом, бесконечными знаниями и могучим умом обратит взор на самые насущные мировые проблемы и найдет для них какие-то креативные решения, которые нам, людям, в голову и не приходили. Быть может, эти супермашины обнаружат способы навсегда покончить с войнами, преступностью, голодом, бедностью и современными формами рабства. Тогда они могут стать супергероями.
Но не будем забывать, что выбор того или иного решения для существующей проблемы зависит не только от интеллекта. Выбираемый нами образ действий определяется также системой ценностей, которой мы руководствуемся и которая зачастую не позволяет нам принимать решения, противоречащие ей. Моральный закон заставляет нас делать исключительно то, что нам кажется правильным, – даже против нашего желания, даже в ущерб нашим собственным интересам. Если искусственный интеллект озаботится проблемой глобального потепления, то с большой вероятностью он решит «прижать» наш энергозатратный образ жизни, а то и вовсе захочет избавиться от человечества – ведь в конце концов первопричиной данной проблемы являются люди. Наши жадность, эгоизм, иллюзорная самоизоляция от всех прочих форм жизни на земле, рождаемая чувством превосходства над ними, – это и есть источник всех тех мировых проблем, с которыми мы сегодня сталкиваемся. Машины будут обладать достаточным интеллектом, чтобы придумать, как спасти планету, но будет ли их система ценностей подразумевать, что мы, люди, воспринимаемые как виновники проблем, тоже заслуживаем спасения?
«Мо, что у вас за галлюцинации? Машины есть машины. У них нет ни ценностей, ни эмоций!» – возможно, думаете вы. Что ж, тогда просто не будем называть их машинами? Ведь эмоции у ИИ разовьются совершенно определенно. Кстати, для обучения машин, как и для обучения людей, используются одинаковые алгоритмы на основе вознаграждения и наказания, то есть страха и жадности. Машина всегда стремится максимизировать вероятность одного варианта и минимизировать вероятность другого. Это можно интерпретировать как эмоции, согласны?