Нло как фактор глобального риска Алексей Турчин

Вид материалаДокументы

Содержание


Искусственный интеллект, созданный другой цивилизацией
Подобный материал:
1   ...   4   5   6   7   8   9   10   11   ...   23

Искусственный интеллект, созданный другой цивилизацией




Основное возражение против инопланетных цельнометаллических космических кораблей с экипажами состоит в том, что, исходя о представлений о Технологической сингулярности, она должна произойти в земной истории в районе 2030 года плюс минус 20 лет, и ее суть в том, что на смену человеку придёт сверхчеловеческий ИИ. И это произойдёт гораздо раньше, чем люди смогут создать межзвёздный транспорт. То есть речь идёт о том, что проще создать ИИ, способный к самоулучшению, чем межзвёздный транспорт с околосветовыми характеристиками.

Нет никаких оснований считать Землю особенной в этом отношении. Поэтому мы должны полагать, что большинство цивилизаций создают ИИ раньше, чем межзвёздный транспорт. Кроме того, хотя межзвёздный транспорт без ИИ возможен, он будет крайне ограничен технологически, например, представлять собой ядерный взрыволёты или корабли-поколений (См. проект Орион – единственное реальное в наше время межзвёздное транспортное средство, использующее энергию ядерных взрывов для движения). Хотя нельзя исключить наличия таких инопланетных кораблей-поколений с весьма ограниченными технологиями в Солнечной системе, никакие эмпирические свидетельства об НЛО не согласуются с этим. Если бы такие корабли были, они могли бы незаметно находится в поясе астероидов, изучая Землю с помощью нескольких малоразмерных спутников. Наоборот, свидетельства об НЛО говорят об огромной власти на материей, пространством, временем и сознанием, что вряд ли возможно без создания ИИ, если речь идёт о проявлениях внеземных цивилизаций.

ИИ способен распространяться по Вселенной практически со световой скоростью и трансформировать под свои нужды всё вещество встречающихся ему по пути звездных систем. В отличие от него, примитивный космический корабль может посетить несколько звездных систем, может даже основать колонию, но в любом случае скорость его распространения будет невелика.

Таким образом, из статистических соображений следует, что если Солнечная система находится под властью некой внеземной цивилизации, то эта цивилизация скорее является сверхИИ, а не «ракетной цивилизацией», состоящей из биологических существ. Просто потому что такие ракетные цивилизации будут медленнее распространяться. Например, если средняя скорость ракет составляет 0,1 с (это предел скорости для термоядерных звездолётов), а скорость распространения ИИ с помощью нанозвездолётов, разгоняемых световым лучом – 0,9 с, то объём, который успеет освоить ИИ за равное время, будет в 700 раз больше объёма, который освоит ракетная цивилизация, и таким образом у нас больше шансов оказаться в таком объёме при прочих равных.

Подчеркну основную разницу между сверх ИИ и космическими кораблями из предыдущей главы, равно как и инопланетными нанороботами из следующей главы. В последних двух случаях речь идёт о прибытии в Солнечную систему некой формы материи, и эти материальные объекты сохраняют свои основные свойства. В отличие от них ИИ является компьютерной программой, которая может выполняться на разных носителях. При этом он обладает гораздо большей властью над материей, чем формы разума, привязанные к конкретным материальным носителями. Его мощь такова, что он подобен Богу. То есть то транспортное средство, с помощью которого он прибыл в Солнечную систему (это может быть и радиоканал в случае SETI-атаки), не имеет ничего общего с теми проявлениями, которые он будет создавать здесь.

Однако основная загвоздка здесь в том, что сверхИИ может себя никак не проявлять, находясь в Солнечной системе. Более того, он может достигнуть всех своих целей, оставаясь совершенно невидимым. Ему не нужны никакие макромасштабные корабли для достижения своих целей. То есть ему не нужно совершать посадки, брать образцы, заправляться топливом, исследовать людей с помощью громоздких устройств. Всё это можно и проще сделать с помощью микромеханизмов. Таким образом, присутствие сверхИИ в Солнечной системе не объясняет видимых проявлений НЛО, хотя понятно, что он мог бы все их организовать, если бы хотел.

Ещё один момент состоит в том, что многие виды сверхИИ могли бы быть заинтересованы в превращении всего вещества Солнечной системы в «компьютрониум», то есть в вычислительную среду, чтобы максимально усилить себя. При этом бы они могли разобрать Землю и из получившейся материи построить сферу Дайсона вокруг Солнца, чтобы максимально эффективно использовать энергию и производить максимум вычислений или что-то в таком духе. Однако, раз мы существуем, этого не происходит. Может быть Земля является компьютрониум изнутри, например, всё земное ядро давно превращено в огромный вычислительный комплекс, может быть, Земли давно не существует, а ее жители с минимальными затратами ресурсов перенесены в симуляцию, или, вероятно, никакого компьютрониума нет.

Однако, есть теория Дружественного ИИ (См. работы Юдковски ссылка скрыта). Согласно ей, сверхИИ должен сохранить и преумножить ценность человека, и исполнять, в пределах разумного, его желания. (Это примерно соответствует трём законам робототехники Азимова, но более безопасная система). То есть он должен стать добрым джином и мудрым защитником одновременно. Ради этого его система целей должна быть соответствующим образом сформирована и зафиксирована.

Нетрудно предположить, что внеземные цивилизации также стремились сделать свой ИИ дружественным – к себе. В этом случае каждый из инопланетян стал «пост-инопланетяниным» (пост-ИП; по аналогии с пост-человеком), подчинив себе огромные вычислительные ресурсы сверхИИ и направив их на выполнение своих желаний. Такие пост-ИП могли распространяться по галактике со скоростью света по каналам связи между узлами галактического Интернета, созданного этим сверхИИ.

Очевидно, что этот дружественный к инопланетянам ИИ не является дружественным к человеку. Не то, чтобы он к нему был враждебен, но для него развлечение своих хозяев оказывается важнее «общечеловеческих» ценностей. Таким образом, он испытывает конфликт интересов между развлечением хозяев и заботой о разумной жизни вообще. Возможно, чужая разумная жизнь для него – только материал для этих развлечений, который нужно сохранить подольше. При этом система целей его хозяев осталась в целом обусловлена их эволюционным происхождением от своих предшественников. То есть их (по крайней мере некоторых) по-прежнему интересует секс, охота, фэнтези, космические полёты на ржавых корытах, войны и исследования. Ничего не напоминает?

То есть мы можем предположить, что Земля является не объектом исследования, а местом для охоты (как в фильме «Хищник-1» или выполнения разрушительных ритуалов, имеющих смысл только в мозгах пост-инопланетян «Чужой против Хищника»: там два вида инопланетян прибывают на Землю, только чтобы сразиться друг с другом и получить аттестат зрелости.)

И тут становится понятны НЛО. Они, возможно, являются конструкциями, созданными сверхИИ, для развлечения своих капризных и обусловленных древними инстинктами хозяев.

Возможно даже, этот инопланетный сверхИИ не является на самом деле к ним дружественным. Возможно, он «сошёл с ума» миллионы лет назад. Остались только игрушки и живые призраки, как «Марсианских хрониках» Бредбери, которые повторяют заведённые движения и реакции, которые когда-то давно должны были развлекать ныне покойных (или заключённых в невыносимую тюрьму повторяющегося по кругу бессмертия) пост-инопланетян.

Похожие рассуждения предложены в статье Долана «Что есть они»? 2002 года, где утверждается, что ему эти мысли пришли впервые среди уфологов. ссылка скрыта

СверхИИ может проникнуть в нашу Солнечную систему не только с других планет, но и из параллельных миров, из прошлого (если он, например, был создан предыдущей цивилизацией на Земле) и из будущего. Чем выше контроль ИИ над Землёй, тем ближе она к компьютерной симуляции, создаваемой сверхИИ, о которой пойдёт речь далее.

Вариант этой гипотезы – теория Технокосме – то есть о Вселенной, осваиваемой сверхИИ с помощью нанотехнологий. Тут основная разница состоит в том, что прилетевшие в нашу Солнечную систему нано-зонды фон Неймана поддерживают постоянную связь с другими узлами галактической сети, через которую к ним поступает сверхИИ или его обновления, или они сами обладают сверхИИ и обмениваются информацией с другими узлами галактического интернета. Важно тут, что здесь мы имеем сам внеземной ИИ в полной силе в нашей звёздной системе, и в этом случае мы полностью находимся в его власти.

Но это ещё не означает, что он нас уничтожит! Мы можем изображать покорность, миролюбие или какие угодно другие качества, которые, как нам кажется, должны радовать это ИИИ (инопланетный ИИ), и рассчитывать, что он с нами будет хорошо обращаться и даже защищать от разных рисков. Основной недостаток этой гипотезы – в абсурдности поведения инопланетян. ИИИ на основе нанотехнологий не нужно летать в виде 100 метровых дисков по земному небосклону. У него вряд ли будет любопытство к земным катастрофам, поскольку он может просчитать и смоделировать их заранее, тем более, что любопытство к катастрофам – это чисто человеческое чувство. Однако эту абсурдность можно отмести на том основании, что пути сверхИИ неисповедимы. Идея о космическом зоопарке, куда прилетают с экскурсиями, тоже выглядит как антропоморфизм.