Пока мы не сбились с пути - стр. 13

– Но ничего по-настоящему революционного или совершенно нового?

– Откуда нам знать, Билл? Мы можем вообразить себе нечто подобное не больше, чем пес может представить себе чтение и письмо.

Я хмыкнул, заметив возможность направить разговор в нужное мне русло.

– Интересно, как вы сможете ему доверять?

– Повторяю: загрузка кармы, – ответил Хью. – Название туповатое, я понимаю. Фактически она заключается в том, чтобы привить ИИ те же нравственные ценности, которые есть у людей. Это позволяет устранить такие сложности, как «проблема скрепки», ведь теперь ИИ понимает, что превращать все на свете в скрепки – плохо. Большинство жутких сценариев, в которых участвует ИИ, основано на том, что он интерпретирует идеи буквально и не обдумывает последствия. Но, по мнению некоторых, разумный ИИ с меньшей вероятностью будет действовать словно безмозглый зомби, поскольку будет обладать самосознанием.

– Да, Хью, но в этом случае ты учишь Тота человеческой морали и одновременно говоришь ему о том, что он – не человек. Интересно, как оно все выйдет в итоге.

– Никакого доступа к физической реальности, Билл. Не только никакого доступа к «бродягам» и тому подобному. Мы даже не станем запускать Тота на реальной технике: он будет работать в виртуальной реальности на виртуальной машине и общаться с нашими виртуальными версиями. Даже если он научится управлять слабовольными созданиями, словно джедай, то при этом будет просто переманивать на свою сторону аватаров.

Я не ответил. «Прыгуны», похоже, все продумали. По крайней мере, у них были заготовлены ответы на все вопросы, хотя это не всегда одно и то же.

Я надеялся, что у меня просто паранойя. Более того, я надеялся, что она и у АНЕКа.

Я плавал в секции «Беллерофонта», в котором располагался двигатель ВСПЛЕСК. Он был легко узнаваем – ведь, в конце концов, способов построить такой двигатель не так много, но Другие, разумеется, многие вещи проектировали совершенно по-своему. Данный двигатель, в частности, сильно зависел от главного компьютера – в отличие от наших двигателей, которыми управляли независимые подсистемы. Контроллер ВСПЛЕСКа принимал команды высокого уровня и превращал их в детализированные инструкции, которые необходимы для выполнения приказа. Интересно, что это может поведать нам о Других?

Мы летели от Нового Пава к 40 Эридана и воспользовались этой возможностью, чтобы наконец-то завершить ремонт «Беллерофонта». Брошенный корабль Других был продырявлен в ходе нападения на Дельту Павлина, и хотя пробоину в корпусе мы заделали, трогать поврежденные двигатели и центральный компьютер не стали. Вместо этого мы создали комплект пластин с двигателями, чтобы, так сказать, транспортировать транспорт.

Но десятикилометровый корабль, который тащит куча летающих вокруг него пластин, управляемых совершенно отдельной системой, был в лучшем случае неприглядным зрелищем.

В ходе ремонта нам очень пригодилось сырье, которое мы собрали в системе Нового Пава. Хотя мы и не собирали двигатель с нуля, нам все равно пришлось заменить крупные его части. А двигатель, который приводил в движение столь массивный корабль, был в буквальном смысле слова крупнее линкора.

– Как дела? – написал в сообщении Нил.