Технологии против человека - стр. 11
ИИ – первая движущая сила в области экспоненциальных технологий; ее можно определить как разработку машин (программ или роботов), обладающих интеллектом и способных к самостоятельному обучению, т. е. это машины, способные думать как люди. Ожидается, что способности ИИ будут развиваться в два раза быстрее, чем остальные технологии, превосходя даже закон Мура и рост вычислительных мощностей>15.
На сегодняшний день самая высокая опасность, связанная с искусственным интеллектом, заключается в том, что люди слишком рано начинают верить, что они его понимают.
– Элиезер Юдковский[14],>16
Спутником ИИ на пути кардинальных изменений является геномная инженерия (human genom engineering), которая способна изменять ДНК человека так, чтобы положить конец некоторым или даже всем болезням, усовершенствовать наше тело и, возможно, даже остановить смерть. Все эти процессы будут возможны благодаря ИИ.
Эти два фактора окажут значительное влияние на жизнь человечества уже в ближайшие двадцать лет. Данная книга посвящена в основном ИИ и глубокому обучению, так как они уже сейчас имеют решающее значение для будущего и выступают ведущими факторами в развитии таких революционных технологий и направлений, как нанотехнологии, геномная инженерия и материаловедение.
Рэй Курцвейл, доктор наук и технический директор Google, оказавший значительное влияние на футурологию в общем и мою работу в частности, занимает позицию, которую я в этой книге постараюсь оспорить. Он предсказывает, что к 2025 году компьютеры превзойдут вычислительную мощность человеческого мозга, а к 2050-му отдельно взятый компьютер превзойдет мощность всех человеческих мозгов вместе взятых>17.
Курцвейл утверждает, что эти изменения ознаменуют появление так называемой сингулярности – момента, когда компьютеры наконец превзойдут человеческий мозг по показанию вычислительной мощности. В этом случае человеческий интеллект сможет отойти от своей биологической природы, а компьютеры смогут независимо и, скорее всего, рекурсивно преодолеть свое изначальное программирование, что явится решающим моментом в истории человечества.
В конце 2015-го Рэй Курцвейл произнес следующую речь в Университете сингулярности[15]:
Эволюционируя, мы приближаемся к Богу. Эволюция – это духовный процесс. В мире есть красота, любовь, творчество и интеллект, и все это заключено в неокортексе[16]. Так что мы будем заниматься разработкой неокортекса мозга и таким образом уподобимся Богу>18.
Я разделяю взгляд доктора Курцвейла на будущее компьютеров, которые смогут уподобиться мозгу человека, но – с Богом или без – я не думаю, что мы должны расплачиваться нашей человечностью за возможность обрести неограниченный небиологический интеллект. Мне кажется, что это плохая сделка, шаг назад, а не вперед, и в этой книге я попытаюсь объяснить, почему так твердо убежден в том, что человечеству не нужно вступать на этот путь.
Сейчас у компьютеров еще не хватает мощностей, необходимых для осуществления предсказаний Курцвейла. Чипы еще слишком большие, сети не настолько быстрые и электросеть не в состоянии обеспечить энергией машины подобной производительности. Разумеется, это всего лишь временные трудности, ведь мы каждый день слышим о новых прорывах в науке, а также подозреваем о секретных лабораториях, в которых проводятся инновационные разработки.