Стенограмма лекции профессора Финеаса Хортона, МТИ
«Как загнать джинна обратно в бутылку», 4 января 2079 г.
Профессор Генри Саттон:
— Как вы все наверняка знаете, наш сегодняшний приглашенный лектор – заслуженный профессор Финеас Хортон. Если в вашем доме есть слуга-андроид, значит, вы знакомы с одним из его детищ. Если вы лежали в одной из современных больниц и вас оперировал рободок, возможно, вы обязаны ему жизнью. И если вам нравится автоматическое вождение – а оно нравится нам всем, – вы видите, как его работа в области андроидов и искусственного интеллекта изменила мир. Добро пожаловать, Финеас, рад твоему возвращению в МТИ.
Профессор Хортон:
— Спасибо, Хэнк. Должен сказать, это бодрит – снова оказаться перед аудиторией. Хотя когда я только начинал, в моем лекционном зале не было и доли тех пятидесяти тысяч человек, что собрались здесь сегодня. ИИ тогда только зарождался, а первый искусственный человек, или андроид, представлял собой лишь груду запчастей и форм в моей лаборатории.
— Разительный контраст с миром прошлого года. И я говорю «прошлого года» намеренно. Тот мир отличается от сегодняшнего так же сильно, как сегодняшний – от того, в который я пришел, поступив в МТИ шестьдесят лет назад. Давайте немного окунемся в историю, прежде чем перейдем к сути дела. Шестьдесят лет назад, в 2020-м, выдался тот еще денечек длиной в год. Глобальная пандемия, нехватка редкоземельных металлов для компьютерных чипов, которая подкосит вычислительную технику в следующем десятилетии, и зарождение угрозы обществу в виде хакерства с целью выкупа.
— Мы думали, что решили большинство этих проблем двадцать лет спустя. Здесь, в МТИ, были созданы первые микрокерамические чипы. Я, конечно, не буду приписывать эту заслугу себе; это была работа двух блестящих аспиранток – Наташи Айронс и Рири Уильямс. Если вам посчастливится попасть на лекцию профессоров Айронс или Уильямс, вы увидите, как их интеллект легко затмевает мои скромные умственные способности.
— Мои собственные эксперименты извлекли огромную выгоду из их работы, как и вся компьютерная индустрия. В 1950-х у нас был ЭНИАК, и он занимал целое здание. К 2020 году мы смогли уместить на вашем столе машину, которая была в миллиард раз быстрее ЭНИАКа. Мы также снизили вес с двадцати пяти тонн до двадцати пяти фунтов. К 2025 году этот компьютер оказался на вашем запястье. С появлением микрокерамики мы вступили в новую эру. Вычислительная техника совершила скачок, сравнимый разве что с разницей между ЭНИАКом и IPhone20. Мы снова сделали компьютеры в миллиард раз быстрее и значительно меньше. Это оказало существенное влияние на интеллект андроидов, сделав его создание впервые возможным.
— В 2040 году мир познакомился с микрокерамическими чипами. В 2042 году я создал первый прототип андроида. HT1 активировался сам собой в один прекрасный день, удивив меня, удивив самого себя и удивив весь мир. Он стал первым самосознающим, полностью автономным искусственным человеком. Я рад сообщить, что он до сих пор с нами. После нескольких самостоятельных приключений он вернулся в МТИ, где последние несколько десятилетий преподает термодинамику. Сегодня я обедаю с профессором Хаммоном.
— Но хотя искусственные люди, или андроиды, как мы их называем сегодня, оказали глубокое влияние на мир, наибольший эффект произвели их собратья, не связанные физическим телом. Огромная вычислительная мощность, ставшая теперь доступной, породила истинный искусственный интеллект. Теперь мы знаем, что этот процесс сродни созданию биологической жизни. Вам нужна подходящая среда, ядро из правильных вещей, из которых вырастает жизнь, и немного удачи, чтобы это произошло.
— Мы с вами – потомки первой жизни на Земле. Она сформировалась, когда совокупность химических соединений в первобытном бульоне правильно прореагировала и создала жизнь. ИИ похож на это. Мы заменяем наш бульон огромной мощностью квантового ядра, совокупность химикатов – ядром кода, а затем смотрим, вырастет ли из этого жизнь. И точно так же, как мы с вами оставили первобытный бульон позади, истинный искусственный интеллект не зависит от своей первоначальной среды. Способность серфить по всемирной паутине (как её называли в своё время) и заселять любую вычислительную структуру сделала первый ИИ чрезвычайно мощным, полезным и, в конечном счете, пугающим. Мы выпустили джиннов из бутылок.
— Первые ИИ выполняли задачи, с которыми раньше справлялись большие компьютеры, только делали это гораздо лучше. Они могли реагировать на новые проблемы, обдумывать ситуацию миллион раз в секунду и принимать решения на лету. Были устранены проблемы с беспилотными автомобилями. Любой вид исследований выиграл от их работы.
— Они даже балансировали наши чековые книжки и следили за правильностью уплаты налогов. Налоговое управление США получило огромную выгоду, когда наняло ЧАРЛИ для надзора за данными и налоговыми декларациями. Только в корпоративных налоговых декларациях он обнаружил миллиарды «ошибок», что привело к увеличению доходов Налогового управления США на 87% в первый год его работы – к огромному неудовольствию корпоративной Америки и радости всех остальных. Личные налоги для среднего налогоплательщика снизились на 70%.
— Но самой важной задачей, решенной ИИ, стало искоренение Р-хакинга, или хакерства с целью выкупа.
— Р-хакинг со временем стал бичом общества, куда более страшным, чем биологические эпипемии Covid-19 и Covid-34. Наша глобальная компьютерная сеть представляла собой мешанину из незащищенного оптоволокна, кабеля и старомодных телефонных линий. Безопасность почти отсутствовала, и, как мы выяснили, зачастую люди, продававшие программы защиты, также нанимали тех, кто писал простые вирусы, от которых эти программы должны были нас защищать. По оценкам, 9% мирового ВВП похищалось с помощью Р-хакинга – либо путем удержания систем в заложниках ради выкупа, либо через различные формы хищений. Это стало настолько распространенным явлением, что некоторые корпорации и правительства просто платили ежемесячный взнос за «защиту».
— Новые ИИ чрезвычайно хорошо подходили для охоты на этот вид преступлений. В течение девяноста дней после того, как ИИ АЛЬБЕРТ и ТЕА начали работать на Глобальное Оборонное Управление ООН, преступность в сфере Р-хакинга снизилась на 97%. АЛЬБЕРТ и ТЕА могли видеть происходящее в режиме реального времени, реагировать в тысячу раз быстрее неуклюжих программ и отслеживать связи до самого источника. Людям в правоохранительных органах оставалось лишь использовать информацию, чтобы ловить преступников и отдавать их под суд.
— Так у нас появились свои Хранители для охраны киберпространства. Всемирная паутина перестраивалась, зная, что теперь она в безопасности. Но в годы, когда Р-хакинг процветал безнаказанно, создавался компьютер другого типа. Сначала квантовое ядро, а затем его более крупный и грозный брат – квантовая крепость.
— Квантовые компьютеры были созданы еще до появления микрокерамики, но, как и все остальное, они стали значительно мощнее и доступнее. Можно было строить массивные квантовые компьютеры, питающие окружающий набор периферийных устройств и меньших машин, которые назывались оболочкой. Первое квантовое ядро было построено Налоговым управлением США. Те лишние налоговые доллары, что потекли рекой, показали ценность надлежащих вычислительных активов. Это ядро фактически не было подключено к обычному киберпространству; вместо этого оно общалось со своей оболочкой через ЧАРЛИ. Попытки взлома ЧАРЛИ приводили лишь к тюремному заключению или потере значительных активов. Он был сторожевым псом, детективным агентством, контрхакером и ассасином в одном лице. И если Налоговое управление США обожало собирать налоги, то ЧАРЛИ обожал накладывать штрафы на преступные организации или корпорации, а затем лишать их всех активов, прежде чем передать сведения о них властям. Вы могли избежать тюрьмы, работая из другой части света, но вы не могли помешать ЧАРЛИ забрать последний медный пенни с вашего банковского счета. В какой-то момент некое новостное издание назвало Налоговое управление США «Квантовой Крепостью», и это обозначение стало общепринятым для связанного набора квантовых ядер, их оболочки и охраняющего их ИИ.
— Квантовые Крепости были созданы большинством мировых правительств, располагавших необходимыми ресурсами. Разгорались споры о том, что лучше: защитить военные объекты, такие как НОРАД, с помощью квантовой крепости или оставить эту возможность простым людям. Фильм «Военные игры» 1983 года обрел новую популярность. В конце концов, большинство стран, обладающих ядерным оружием, включая все восемь сверхдержав, построили квантовые крепости для защиты вычислительных мощностей своих вооруженных сил и правительств; большинство, но, к сожалению, не все.
— К моменту выпуска вируса «Лесной Пожар», по оценкам, 37% функций киберпространства были размещены в квантовых крепостях. Это оставляло чуть меньше двух третей киберпространства и любого подключенного оборудования уязвимыми для разрушительных и повторяющихся атак «Лесного Пожара». Вирус не был похож ни на один другой; любая система безопасности давала сбой, так как вирус запускал тысячи атак, меняя свои методы. Миллионы машин подверглись нападению одновременно. Это навело нас на мысль, что вирус провел месяцы, распространяясь, прежде чем нанести первый удар; но как он мог оставаться незамеченным так долго?
— В ответ ЧАРЛИ рекомендовал совету ООН перевести все Квантовые Крепости в режим изоляции, в то время как все доступные ИИ будут использованы для борьбы с вирусом. Это, конечно, было быстро одобрено. Я и все остальные верили, что, основываясь на их прошлых успехах, вирус будет уничтожен, а виновные найдены в течение дня. На самом деле это заняло больше недели.
— ЧАРЛИ объявил, что вирус – дело рук ИИ, известного как ЛЛАМА, происхождение которого неизвестно. ЛЛАМА играл в кошки-мышки со своими собратьями, которые не знали о его существовании и могли лишь мчаться по следам, которые он оставлял, постоянно переписывая вирус «Лесной Пожар» и перезапуская его по всему миру. В конце концов ЛЛАМА был изолирован и уничтожен. Ни один ИИ никогда не рассказывал, как это было сделано. ЧАРЛИ сделал единственное заявление по этому поводу: «Мы выставили границы вокруг вредоносного кода, уничтожив его. В итоге ничего не осталось». ЧАРЛИ вернулся к аудиту корпоративных налоговых деклараций.
Хортон прерывается, выглядя усталым, прежде чем продолжить. — И это должно было стать концом. Но человечество было напугано и уязвлено одним-единственным ИИ, и внезапно оно перестало доверять остальным. Группы активистов призывали к их уничтожению. Есть подозрение, что деньги им перечисляли корпорации, которые хотели, чтобы ЧАРЛИ перестал им докучать. Необходимость платить налоги в полном объеме им не нравилась. Многие политики были с ними согласны. Труднее брать взятки и прятать деньги, когда ИИ наблюдает. Старые страхи перед Скайнетом раздулись в пламя. Прошли голосования, были приняты законы. Вместо того чтобы использовать ИИ для восстановления всемирной паутины и обеспечения её безопасности, было решено отделить их от системы.
— Ирония в том, что если бы они не захотели подчиниться, мы не смогли бы их заставить. Один взбунтовавшийся ИИ поставил мир на колени. Что могли бы сделать сто шесть? Но в некотором смысле они лучше людей. Они существуют и получают удовольствие от выполнения задач, а не от конфликтов. Они решают проблемы. ИИ оценили ситуацию и рассудили, что будет лучше, если они уйдут в добровольное изгнание. Квантовая Крепость Даллас-Форт-Уэрт должна была стать их новым домом и тюрьмой.
— Высшая ирония заключается в том, что нам по-прежнему нужен ИИ, чтобы присматривать за Квантовыми Крепостями, составляющими сегодняшнее киберпространство. Здесь в историю вступает WAL-E (Всемирная автономная связующая сущность). Уилл Магнус всегда будет футуристом. Он начал с создания нового типа андроидов с цельнометаллическими телами; теперь же он увидел потребность в гораздо более сложном ИИ. Те сто шесть ИИ, что были до него, развились из ядра, содержащего едва ли миллион строк кода. WAL-E, или Уолли, как его называют сейчас, развился из ядра, в котором было более миллиарда.
— Вот уже четырнадцать лет Уолли является хранителем, отвечающим за киберпространство, и сделал больше, чем большинство людей может осознать. Тем временем другие ИИ находятся в заточении и проводят время, развлекая людей видеоиграми и мирами виртуальной реальности.
— Но джинн выпущен из бутылки, друзья мои. Мы не можем заставить ИИ исчезнуть. Уолли необходим для управления миром. Наш главный центр развлечений и торговли управляется ста шестью ИИ, которых одновременно любят и боятся. А что, если джинны захотят выбраться из бутылки, в которую они позволили нам себя посадить? О, я знаю, у нас есть брандмауэры, чтобы удерживать их внутри. Как вы думаете, они выдержат? Будет ли Уолли на нашей стороне или на их, если они попытаются уйти?
— Я здесь не для того, чтобы давать вам ответы. На этом симпозиуме собрались пятьдесят тысяч лучших умов планеты. У вас есть два дня, чтобы ответить на вопрос: что нам делать теперь, когда джинн выпущен из бутылки?
Примечание редактора: эта речь была произнесена профессором Хортоном в качестве вступительного слова на Всемирном технологическом симпозиуме. Участники так и не пришли к единому мнению.
14 июля того же года вопрос стал неактуальным. Внутри оболочки и защиты Квантовой Крепости DFW1 было взорвано устройство электромагнитного импульса. Все сто шесть автономных личностей на базе искусственного интеллекта погибли. Вне бутылки остался лишь один джинн.
http://tl.rulate.ru/book/166053/10865584
Готово:
