Пока мы не сбились с пути - стр. 38

– И поскольку «Ультима туле» находится практически в самом центре ОФРС, то все направления в одинаковой степени вероятны, – заметил Гарфилд. – Ох. Если мы лажаем, то лажаем по-крупному.

– Я по-тихому отправил ориентировку всем нашим админам и Бобам, – сказал я. – Лже-Хью получил корабль «Парадиз» последней модели, а их не так уж много. Он обладает просто невероятным ускорением, так что идеальная стратегия для Тота – это выбрать курс и набирать скорость, пока он не выйдет за границы ОФРС. Поэтому особых результатов я не жду.

– А чего именно мы боимся? – спросил Боб. – Ну сбежит он в глухую чащу, и что? Разве это плохо?

– Это проблема скрепок для бумаги, – вздохнул я. – Проблема инструментальных целей. Проблема загрузки ценностей. Все теории об ИИ, созданные за последние столетия, говорят нам, что, даже если ИИ не является явно и сознательно враждебным человечеству, он, стремясь добиться своих целей, все равно может совершать действия, которые наносят вред людям. И он обладает всеми преимуществами над людьми, которые есть у нас, а также многими другими. Он может выполнять несколько задач одновременно – таким способом, который нам просто не доступен. У него нет никаких эмоциональных или психологических барьеров, препятствующих ему клонировать себя. Он может улучшать себя и добавлять себе новые возможности. Самый банальный пример: возможно, он начнет добывать ресурсы в звездных системах, конкурируя с нами. Никакой враждебности, ничего личного – мы просто окажемся у него на пути. Он похож на Других, только отличается от них по аппетитам.

– И он мог бы создать миллион снарядов с таким же уровнем интеллекта, как и у него самого, – добавил Боб.

– О нет, – вставил Хью. – Тут вот еще что. Я взглянул на файл, из которого восстановили Лже-Хью. Это не одна из моих сохраненок, но у него стандартный размер и правильная информация в заголовке. Очевидно, что файл должен вписываться в матрицу и, что столь же очевидно, он не может быть настолько большим, чтобы вызвать подозрения у Гарфилда. Он на несколько порядков меньше того, который нужен для загрузки Тота.

– Лже-Хью – это не ИИ?

– Скорее, это его миньон.

Возникла пауза, а затем все превратились в желтых, похожих на капсулы существ в огромных очках. Я покачал головой:

– Вы так и не повзрослели.

– Черт побери! – воскликнул Уилл и выпрямился в кресле. – Если на корабле миньон, значит, все это – просто промежуточный этап какого-то плана. Я уверен, что он направляется в пространство «прыгунов» и что его задача – физически освободить Тота.

Мы все посмотрели на Хью: он был похож на человека, которому врезали под дых.

– Да, – сказал он, – это похоже на правду. Но есть и хорошая новость: он прилетит туда лишь через несколько лет.

– Сколько именно времени ему понадобится? – спросил я.

– Прости, Билл, но это секретная информация, – ответил он. – Но я сообщу о нашем разговоре начальству. Возможно, оно решит, что мы должны предотвратить катастрофу и поэтому нам нужно быть более откровенными.

– Ага, так и сделай, – зарычал Гарфилд. – Можешь не торопиться.

Мы продолжали исследовать системы Хаба-ноль и только что прошли через еще одну «червоточину». Система на другом конце оказалась большой. На данный момент мы обнаружили четырнадцать планет, две из которых находились в зоне жизни. Мы уже не заботились ни о скрытности, ни даже об осторожности. Отсутствие какой-либо активности и успокаивало, и беспокоило нас.