Генезис. Искусственный интеллект, надежда и душа человечества - стр. 6
6. Свободный доступ к ИИ с открытым исходным кодом может вооружить даже маргинальные группы примитивными, но опасными системами.
Подобные сценарии вызывали глубочайшую тревогу у Киссинджера – и его борьба за их предотвращение вышла далеко за рамки написания этой книги. Ни для кого не секрет, что последней задачей, которой он посвятил остаток своей жизни, – именно она фактически истощила его силы в первые месяцы после сотого дня рождения – было инициирование переговоров между США и Китаем по ограничению «гонки вооружений» военного ИИ, чтобы предостеречь все человечество от таких антиутопических перспектив.
И в заключении книги Genesis узнаваемый ход мыслей Генри Киссинджера просматривается абсолютно четко:
То, что одни считают якорем, помогающим удержаться во время шторма, другие воспринимают как поводок, который не дает сделать лишнего движения. То, в чем кому-то видятся важнейшие шаги на пути к вершине человеческих возможностей, другие назвали бы стремительным падением в пропасть.
В этом случае инстинктивные эмоциональные расхождения – равно как и субъективные границы, очерчиваемые каждой из сторон, – создают непредсказуемую и взрывоопасную ситуацию. Все более жесткие позиции потенциальных «победителей» и «проигравших» будут лишь усиливать давление этих обстоятельств. Люди чересчур осторожного склада начнут притормаживать собственное развитие и мешать развитию других. Те, кто ставит себя выше прочих, предпочтут скрывать свой истинный потенциал, украдкой пытаясь повысить собственную эффективность. Весь наш наработанный опыт будут поджимать бесконечные кризисы – постепенно они станут подобны волне, которая однажды захлестнет нас, и неизвестно, удастся ли нам выжить.
На подобные прогнозы технари дают привычный ответ – напоминают нам об ощутимых преимуществах ИИ, которые уже хорошо проявлялись, например, в области медицины. С этим я не могу не согласиться. На мой взгляд, AlphaFold – модель, основанная на нейронных сетях и определяющая третичную структуру белков, стала гораздо более прорывным открытием, чем ChatGPT. Однако медицинская наука добилась сопоставимых успехов еще в двадцатом веке. И хотя человечество изобрело антибиотики, создало новые вакцины и разработало бесчисленное множество терапевтических средств – все эти достижения медицины не смогли предотвратить ни мировых войн, ни холокоста.
Центральная проблема технического прогресса заявила о себе еще при жизни Генри Киссинджера. В 1938 году немецкие химики Отто Ган и Фриц Штрассман фактически открыли деление ядер урана. Теоретическое объяснение (и название) этому процессу дали физики австрийского происхождения Лиза Мейтнер и ее племянник Отто Роберт Фриш в 1939 году. Возможность цепной ядерной реакции открыла путь к «массовому производству энергии и радиоактивных материалов – и, как ни прискорбно, к созданию атомной бомбы», – размышлял венгерский физик Лео Силард. Тогда же с одобрением была воспринята возможность применения цепных реакций в ядерных реакторах для получения тепловой энергии. Однако на создание первой атомной бомбы ушло чуть более пяти лет, а первая атомная электростанция была открыта лишь в 1951 году.
Спросите себя: чего за последние восемьдесят лет было создано больше – ядерных боеголовок или атомных электростанций? Сегодня в мире насчитывается около 12 500 ядерных боеголовок, и это число растет, поскольку Китай стремительно наращивает свой ядерный арсенал. Для сравнения, в мире действует только 436 ядерных реакторов. В абсолютном выражении пик производства атомной электроэнергии пришелся на 2006 год, а доля атомной энергетики в общем мировом производстве упала с 15,5% в 1996 году до 8,6% в 2022 году. Отчасти это произошло из-за преувеличенных опасений политиков после нескольких аварийных ситуаций на АЭС, последствия которых для здоровья людей и окружающей среды были незначительными в сравнении с ущербом от выбросов углекислого газа при сжигании ископаемого топлива.