Совершенный: пробуждение - стр. 19
– А вот с моей стороны с самой нейросетью не все так радужно, как расписал Алексей, – взял слово упомянутый Влад, нос которого уже давно зажил. – Она напрочь игнорирует прямые команды и не поддается управлению. Если пытаться пробиться силовыми методами, то она переходит в активную защиту и атакует программную оболочку аппаратуры, выводя ту из строя. Если действовать не напрямую, то вот тогда можно чего-то от нее добиться, но… не всегда получается задуманное, слишком много надо внести косвенных изменений, и не всегда удается до конца просчитать все факторы. И важно – итоговые изменения не должны нести вреда ей или ее хозяину, тогда в девяносто девяти из ста случаев она не заблокирует их.
– Проще говоря – вы не можете контролировать нейросеть и урезать ее возможности не получится, – подал голос особист из своего угла.
– Не совсем так. Как раз вот с урезанием возможностей мы нашли выход. Уже несколько дней мы проводим точечные изменения, которые в итоге должны будут привести к нужному для нас результату. Еще неделя максимум в таком темпе, и мы сможем практически полностью заблокировать ее.
– И тогда получится подключиться к ней? – задал вопрос особист.
– Сомневаюсь. Мы урежем ей почти все внешние возможности, но вот ее защита никуда не денется, – разведя руками, ответил ему ученый. – Здесь мы бессильны, никто даже не мог предположить, что такое случится, ведь управляющий доступ прописан у нее на уровне ядра.
– Выяснили, почему так получилось? – спросил у Влада уже Андрей Владимирович.
– Нет, непонятно, что именно привело к такому результату. Мы проверили все записи экспериментов. Ничего выходящего за рамки. А выяснить у нее самой не получается, как вы уже поняли.
– Понятно, – кивнул ему Андрей Владимирович. – Кто-то еще что-нибудь хочет добавить?
В ответ ему была тишина.
– Тогда все свободны, – отпустил он своих подчиненных.
Все то, что они рассказали, он и так знал, но это нужно было обсудить, вдруг всплыли бы какие-нибудь упущенные детали или вдруг родились гениальные идеи.
– Что будешь делать? – спросил особист, когда все вышли из кабинета.
– Как и думал: урежем ему нейросеть, только придется оставить его еще на какое-то время, чтобы проверить, как получится. А потом пусть живет себе.
– Ты уверен? Может, проще оформить все как неудачный эксперимент?
– Зачем? Пусть себе живет, нам он ничем не помешает. А вытащить или взломать нейросеть ни у кого не получится. Особенно взломать, если этого даже мы не смогли сделать, те, кто создали ее и знали все слабые места. Да и с «вытащить» не все так просто, она же теперь одно целое с его мозгом: умрет он – уничтожится и нейросеть, а в мозге ее изучить практически нереально.
– Я не совсем понял, как вам удастся урезать ее функционал, если она блокирует негативные изменения?
– Там все хитро, изменения по отдельности не несут вреда, но стоит произойти последнему, кстати тоже в целом безвредному, как все вместе они просто положат нейросеть, обрезав ее функционал.
– Так, может, таким образом кто-то сможет ее взломать?
– Ага, это нужно еще знать, что и где искать. Ну и во второй раз провернуть все это не получится – сеть уже научится и не допустит. Так что после блокировки она станет совершенно неуправляемой извне.
– Ясно. Отчет готов?