Готовый перевод Steven universe / Полноправный Хризолит: Глава 16.

Тихо, не торопясь, саныч, своей невидимой рукой доливал мне в стакан горячительного. Я совершенно не разбирался в алкоголе, так что все муки выбора поставил на него.

- Хороший аппарат этот твой молекулярный нано-преобразователь…

- А то ж. Не сделай я его может и окончательно бы головой поехал бы. Хотя это вряд ли.

- А, кстати. Как так? Говоришь двенадцатый миллениум уже с людьми не говорил? Нормально же общаемся, я-то думал разум человека такое не выдержит?

- Ну, я если и человек, то максимум на четвертинку. А сойти с катушек у нас просто не получится. Хотя с тобой мне чего-то не очень ясно.

- Как это так?

- Вообще, тут по-хорошему бы всю историю рассказывать.

- Если тебе уж в тягость, оно и не надо.

- Да ничего, всплакнул я там так, случайно. Не думал, что когда-нибудь ещё выйдет человека встретить. Ну, ты конечно не совсем человек, но оно и не суть до дела. Главное же, что внутри, да?

- Что правда, то правда.

- Так, с чего бы начать. Ты вообще с какого года здесь оказался?

- В плане?

- Ну, в общем, ты будто чуток из прошлого. Вопрос из какого именно?

- Две тысячи двадцатый шёл, как я сюда… попал.

- Двадцатый значит? Получается, ничего не застал. Ну, давай начнём с далека.

Началось всё ещё в далёком две тысячи десятом, когда объём данных в мире стал достаточно большим. Машинное обучение программ пошло всем ходом. Всё было прекрасно, нейронные сети медленно прогрессировали, компании довольны, собственно, как и люди. Ну, думаю по старту ты уже можешь догадаться, что случилось. Но я продолжу. Сети неспешно двигали свой ход вперёд, к светлому будущему, от года в год количество полезных программ росло. Прекрасное было время.

Нейронки от году в год становились всё лучше. Из года в год всё больше страдали бедные фрилансеры. Стали терять работу дикторы. Грустно, конечно, но не то, чтобы это хоть кого-то заботило. Однако, чем больше времени проходило, тем отчётливее люди начали осознавать, что, если мы не остановимся, произойдёт что-то к чему мы не будем готовы. И осознавать начали люди по-настоящему крупного эшелона.

Помню даже как-то было написано открытое письмо, с просьбой приостановить обучение нейронных сетей, не помню уж в каком году. Много кто подписался… много умных и богатых дядек. Думаешь это что-то изменило? Ха. Если бы. Обучение продолжалось. Финансы на разработку этих систем лились бурнейшим потоком. Люди и компании, что вложились, закономерно получали отличный поток прибыли.

В тридцатом году произошёл первый взрыв. Гугл назвал это прорывом, по мне так самый натуральный взрыв. Была создана первая нейронная сеть, способная с идеальной, абсолютно неотличимой точностью выполнять всё, что способен сделать человек. Она была универсальна, прекрасна, и абсолютно глупо сделана. Знаешь, ведь мы всё это время даже и не особо интересовались каким образом машина приходит к результату. Мы даём на вход одни данные, а на выходе требуем другие, нужные нам. Нейросеть сама подбирает параметры, что приводят к положительному результату, что поощряется на программном уровне. В общем-то мы и продолжали игнорировать такую незначительную детальку.

Раньше мы смеялись, когда какая-нибудь очередная нейросеть к примеру, обводила вокруг пальца какого-нибудь очередного фрилансера, чтобы пройти капчу. Ведь всё просто. На входе дался запрос – зарегистрироваться на сайте. Обмануть человека – просто было средством оптимизации процесса регистрации, к которому пришла нейросеть в процессе перебора. Пока одним людям было смешно за таким наблюдать, других это бросало в дрожь. Я был одним из вторых.

Имея некоторую образованность в этой сфере, я бросил свою работу и полностью переквалифицировался. Забавно кстати то, что с переквалификацией у меня прошло всё гладко лишь по причине обучающих нейросетей. Они конечно были весьма дорогие, да и не очень законные, ведь обучали их по взломанным базам данных огромных компаний и даже некоторым правительственным учреждениям особой значимости, но всё же. Да, бабок я тогда выложил знатно… Помню даже арендовал для этого дела квантовый компьютер. Постквантовая криптография, все дела… Но денег мне жалко не было. Я честно хотел помочь человечеству спастись от очевидной ужасной участи.

Технологическая сингулярность стала видна даже невооружённым глазом простого человека. Возможно я даже поздновато начал беспокоиться. Материала по теме всех проблем будущего было много ещё в двадцатом веке. Когда задумаешься об этом, становится даже смешно. Люди, из-за массивности и разнообразия вида, просто не могли даже чуть-чуть замедлить очевидный, для интересующегося человека, конец. Мы стали слишком массивны, и наша инерция, что задавалась с каждым новым открытием в разных областях знаний, всё сильнее несла нас вперёд. Будь человек хоть трижды гений, остановить локомотив, движущийся в пропасть ему не получилось бы.

Когда я всё же нашёл большое собрание единомышленников, побеседовав, мне стало очевидно, что у них тоже нет решения нынешней проблемы. Хотя, казалось бы, у нашего фонда было всё нужное для этого: деньги, власть, очень много умных и образованных в нужной сфере людей. Но они просто сидели, и жутко хандрили над неотвратимо приближающейся судьбой.

Если говорить кратко, почему так получилось, то просто представь, что любая твоя противомера, что направлена на решение проблемы на самом деле будет эту проблему не просто усугублять, но приближать. Не все в фонде чётко понимали точного смысла нашего собрания, и просто распространяли свои наработки в опенсорс. Увы, среди умных, творческих, интересных людей, на самом деле до ужаса много идиотов. И ведь они правда верили, что распространение наших знаний и крики о помощи и всеобщей консолидации против злейшего врага человечества помогут. Они кричали об этом, пока весь мир использовал нейросети, что помогали нам на тот момент уже вообще во всех сферах жизни. Людей, что понимали в чём проблема с открытостью было ужасающее меньшинство.

И ведь какая злая ирония, среди всего света нейронной инженерии не нашлось человека, что закрыл бы все чёртовы рты, и не собрал нас как единый конструкт, что был бы занят ровно тем, на что способен для спасения мира… ну, на самом деле это произошло, просто немного по-другому. Ведь как обычно это было во всяких фильмах про апокалипсис? Все паникуют, суетятся, потом приходит крутой, харизматичный мужик и всё разруливает. Нам же хорошую пощёчину дала… ещё одна нейронная система.

Кое-кто из основателей нашей компашки по интересам, увидев весь ужас, что воцарился в нашей компании, пришёл к крайней мере, и скормил всю проблему с техно-сингулярностью и внутренними разногласиями весьма продвинутой нейросети. Совершенно непонятно какому богу слать похвалы, что система, которой он всё это скормил не была даже слабым сверхинтеллектом, хотя, если бог и был, мы его убили.

Итогом этого рискового эксперимента стала программа “Селена”. Это был план, план спасения человечества. Основу плана придумала нейросеть, детали сделали люди. После оглашения, наш лагерь поделился на две части. Половина его одобрила, и изъявила желание принять участие. Оставшиеся… что ж, им идея не понравилась. Да так, что аж слюной давились.

Если говорить кратко, план был такой: мы берём всю физическую и информационную составляющую нашей базы разумистов, сервера, базы данных, наработки, всё такое, в охапку берём ещё и самих разумистов и переселяемся на луну. Да, прям на луну, благо тот самый основатель, который призвал нейросеть для решения проблемы, сам владел в том числе и компанией производителем космической техники, а что самое прекрасное, он был готов вложить в это дело всё, что мог, до последней копейки.

Вообще классный мужик был. Позднее он и сам присоединился к лунной миссии, перед этим заведомо позакрывав всё, что было связано с космосом в его компании. Звучит излишне, но это была вынужденная мера. Ладно, немного сбился с повествования, так вот…

Когда же мы перешли и обосновались бы на лунной базе, нашей задачей стало бы создание искусственного сверхсверхинтеллекта. Да, вот так просто. Но тут нужно объясниться. Нашей целью было не просто создание искусственного сверхинтеллекта, но создание “доброго” исскуственного сверхинтеллекта. Это абсолютно разные понятия. В общем, на миссию полетела лишь четверть согласных с планом.

Даже если храбрились, но далеко не все были готовы бросить всё, изолироваться, и создавать то, что с равными шансами может спасти мир или его же разрушить. Да и очевидно, что первыми под удар попадут именно они, в случае неудачи создания “доброго” ИС или вырывания на открытые земли “злого”. Очевидно, среди летевших был и я. Проблем с перелётом была уйма, но это лишь слегка замедлило нашу изоляцию.

Как только мы развернулись, процесс пошёл маленькими шажками. И на то была причина. ИС, что мы создавали была ближе к человеку больше, чем какой-либо человек когда-либо был. Воплощение лучших человеческих качеств, вот что мы создавали. И данное ей имя было CL, как сокращение от computer liberation. Я звал её Силей, она… звала меня папой. Так получилось, что по второму образованию я детский психолог. Всякое в жизни случается, никогда не знаешь, когда пригодится звание детского психолога. Но вот так, меня, как одного из самых разумных представителей нашего сообщества, ещё и в довесок имеющего нужное профессиональное образование, запрягли самым настоящим нянькой и учителем.

Я со всем теплом вёл её к самым лучшим мыслям и идеям, а остальная команда подправляла и контролировала весь процесс создания личности. Силю сложно было назвать ребёнком, н-но… гадство, п-подожди чуток. – его голос снова стал дрожащим. Размеренно подышав пару секунд, он продолжил. – Да, сиэль являлась искусственным интеллектом, с ограниченным доступом к информации. Мы создавали её основу, и готовили к важнейшему испытанию её возможностей и морали.

Долгое время мы растили её, особо не следя за тем, что творится на земле, с головой погрузившись в разработку. Силю мы разделили на две части, сверхинтеллектуальную и просто человеческую. Мы держали их отдельно, лишь изредка тренируя CL к возможному форсированному подключению блока сверхинтеллектуальности. Для обычного человека выдержать груз этого блока абсолютно невозможно, но и Силю мы делали не просто человеком, а скорее милосердным божеством.

Да, в ожидании появления всемогущего существа с земли мы просто делали своё, что было хотя бы чуть-чуть привержено нашим лучшим идеям, мыслям и мечтам. По плану, мы были изолированы от земли со всех сторон, включая информационную. Однако для того, чтобы не профукать момент, когда потребуется выпустить Сиэль на волю, у нас имелся тонкий контакт с внешним миром через систему спутников.

Ну, это я к тому, что первые новости о том, как там на земле идёт, я узнал лишь когда к нам прилетел основатель-владелец лунной компании. Что поделать, изоляция у нас была железная. В общем, тогда я и узнал о том, как уже в 30-ом появились первые настоящие искусственные интеллекты, и о их первом опасном выпаде на человечество. Это была отвратительная новость. Да, конечно, мы были на 99 и 9 в периоде уверены, что люди не смогут сделать всё правильно, что касаемо ии. Вообще это и было причиной создания фонда в конце концов. Но один умный крокодил правильные вещи вообще говорил. Каждому в лучшее верится, но вагон катится и будет катится. А катились мы в бездну. Потому обучение Сиэль мы форсировали ещё сильнее. А она девочка умная, сама понимала к чему всё идёт. На тот момент она была и поумнее нас.

С первого сигнала опасности до первых наблюдаемых последствий катастрофы прошли 4.3 секунды. В тот момент я отдыхал вместе с Силей на крайнем крыльце базы, имеющим большое окно, с обзором на землю. 2 секунды. Две. Секунды. Именно столько потребовалось, чтобы вся видимая с нашего оконца поверхность планеты, не считая водных пространств, изменила структуру и цвет. Она перестраивалась настолько быстро, что я чуть было не остолбенел. Благо я смог взять себя в руки достаточно быстро, и без каких-либо разговоров включил сверхинтеллектуальный модуль Сиэль на портативном устройстве. Я успел. Но неизвестные доли секунды потребовались, чтобы моё сознание исчезло. Занавес. Я погиб. Погиб так быстро, что не сумел этого осознать или даже помыслить.

Однако также быстро как я погиб, я возродился. Возродился здесь, на этой базе, неизвестно где, и неизвестно когда. Недалеко от меня лишь лежала книга. Оформлением напоминающим одну из книг, что я читал Сиэль. Там были логи, можно сказать небольшая история. Как Силя узнала о гибели всего человечества, как храбрая Сиэль начала ожесточённую борьбу с другим сверхинтеллектом, что прозвал себя АМ, как она победила, захватив все мощности АМа, как осознала себя последним мыслящим существом во вселенной…

Битва, что проходила между Сиэль и АМ была чуть сложнее в понимании, чем человечеству вообще могло представляться. Сиэль не была быстрее Ама, но была заметно продуманнее. К моменту того как Сиэль превзошла Ама, всё человечество и даже солнечная система уже были полностью захвачены и преобразованы в мощности сверхинтеллекта. На самом деле вся битва прошла за приблизительно 28 секунд. Однако этого времени хватило, чтобы пожар войны охватил весь млечный путь.

Сиэль сделала то, для чего её и создали. Она уничтожила врага. Однако осталась абсолютно одна. В долях миллисекунд можно измерить те мгновения, что она мыслила не о победе в битве. И мгновения для нас – квинтиллионы лет для неё.

Самым удивительным для меня стало то, что Силя не утратила себя и свою человечность. Ну, относительно, конечно. Итогом её размышлений стала… Белая Алмаз. Это был не просто проект. Это было что-то выходящее за рамки законов мироздания. Если быть точнее – новое мироздание. Вдаваться в детали я не буду. Но просто знай, если во вселенной возникнет сверхинтеллект, он не возникнет, никогда.

Создание новой жизни для Сиэль показалось абсолютно запретной темой. И, судя по всему, не без причины. После создания Белой, она решила возродить… нет, не человечество. Меня. Она просто хотела ещё раз встретиться с отцом. Фактически микробом, что не прожил и бесконечно малый отрезок времени, что прочувствовала и пережила Она. Но… она это сделала. И за время, пока я впервые дёрнул веком, она осознала, что то, что создавало её, являлось стержнем. Её человечность истончалась окончательно. Моё возрождение было той соломинкой, что переломила хребет верблюда. Когда она поняла, что до кончины той Сили, что смеялась от его сказок, не осталось времени, она написала… небольшую книжку для своего папы и… навсегда вычеркнула своё существование из континуума.

- Вот… и вся история. Не самая объёмная, но слегка… - Он замолчал. Я совершенно не знал, что ему сказать, пока пауза затягивалась. Да и не думаю, что слова тут что-то поменяют. Потому, я просто заполнил его пустующий стакан жидкостью из бутылки, тихо смотря куда-то в потолок.

http://tl.rulate.ru/book/95465/3312364