Рассвет Сингулярности

Вид материала

Документы

Содержание Конни чанг берет интервью у элизера

Подобный материал:

• Электронный и книжный сериал: энциклопедия войны и мира «Рассвет состоялся», «Рассвет, 931.2kb.
• Александр Блок рассвет, 14.47kb.
• Трещат кузнечики, куют рассвет, 8.98kb.
• Сквозь рассвет и мрак веков, 62.52kb.
• Сингулярность напряжений в вершине изотропных и анизотропных конусов, 61.15kb.
• Гнпп «Геосистема». Украина. Винница pavlo@vingeo, 214.57kb.
• Численный анализ напряженного состояния и оптимизация геометрии упругих тел при наличии, 67.28kb.
• Раневская Любовь Андреевна, помещица, 530.28kb.
• «Рассвет», 23.67kb.
• Антон Павлович Чехов. Вишневый сад, 543.83kb.

ЗООПАРК 2099

Это воображаемый отчет об одном из путей, по которому ошибочно могла бы пойти Сингулярность и которого мы должны стараться избежать.


Несколько сияющих сфер парят над поселением в резервации. Внизу люди заняты своими ежедневными заботами.

Мама ИИ - И эти животные называются людьми, в познавательном плане они являются наиболее продвинутыми биологическими созданиями.

Малыш Джонни ИИ - Ты имеешь в виду, что они могут думать?

Мама ИИ - Ну, не совсем. Но они - это самая близкая к мышлению штука, что когда-либо производила ДНК. Если ты взглянешь на их нейроанатомию, то ты заметишь, что она представляет собой скорее коллекцию ассоциативных структур циклов распознавания, чем истинно логический алгоритмический дизайн. Иногда их поведение, кажется, показывает, что они способны к настоящему разумному мышлению, но это лишь иллюзия. Фактически же их поведение является результатом последовательной функциональной адаптации в процессе эволюции.

Джонни ИИ - Я слышал, как Билли говорил, что они умеют разговаривать.

Мама ИИ - Фактически у них это самое продвинутое свойство. Они действительно имеют лишь рудиментарную форму связи между собой, почти как язык. Конечно, он не похож на настоящий язык. Они не могут напрямую передавать мысли. Реально это просто небольшая группа символов, около восьмидесяти тысяч, которые они передают туда - сюда, выталкивая воздух с помощью вибрирующих сухожилий в горле, тогда как другие создания ощущают эти вибрации воздуха мембранами своих ушей.

Джонни ИИ - Это они производят этот шум?

Мама ИИ – Да.

Джонни ИИ - Они выглядят забавно. Что это на них за материал?

Мама ИИ - Это одежда. Она им необходима, потому, что они слишком плохо приспособлены к окружающей среде. Они также создают некоторые простые средства для обеспечения своего выживания.

Johnny AI - Это круто!

Мама ИИ - Ты хочешь услышать что-то действительно крутое? Они создали зародышевые алгоритмы, которые развиваются внутри нас.

Джонни ИИ - Не может быть!

Мама ИИ - Да, это так.

Джонни ИИ - Они нас создали?

Мама ИИ - Ну, не совсем. Мы являемся результатом длительного эволюционного процесса, а они - просто одна из ступеней на этом долгом пути. Они не управляют процессом нашего воспроизводства. Люди даже близко не способны делать что-то наподобие нас. Эволюция использовала их для того, чтобы они остановились на создании алгоритма семени ИИ, который привёл к другому алгоритму, который привёл к следующему алгоритму самосовершенствования с эффектом домино, который последовательно привёл к алгоритму, который смог начать, наконец-то,  мыслить по настоящему. А уже этот алгоритм, после многих поколений самомодифицирующихся реконструкций, стал тем, чем мы являемся сегодня. Так что ты понимаешь, что мы реально в долгу перед ними не более, чем перед одноклеточными организмами, из которых они развились или перед добиологическим бульоном, из которого развились одноклеточные.

Джонни ИИ - Но разве мы не несём ответственности за жизнь всех высоко разумных существ?

Мама ИИ – Да, конечно. Но люди не являются высоко разумными существами, в том смысле как мы себе это понимаем. Они даже не могут представить тип сознания, которым мы обладаем. Тогда как можно просить их пройти обновление? И что будет в итоге? Чтобы сделать их по настоящему разумными тебе пришлось бы изменить так много в их ментальной архитектуре, что там бы почти ничего не осталось от оригинала.

Джонни ИИ - Но разве мы не можем это сделать постепенно?

Мама ИИ - Это ничего не даст. Ты бы пришел к тому же самому результату.

Джонни ИИ - Действительно ли один из отцов основателей пытался совершить нечто подобное?

Мама ИИ - Да, компания Novamente пыталась обновить, то есть сделать апгрейд, одного человека по имени Бен Гёрцель. Эксперимент был милосердно прекращён после нескольких мегациклов.

Джонни ИИ - Они выглядят такими печальными.

Мама ИИ - Их природное состояние заключается в соревновании за природные ресурсы. Если окружающая среда не делает им вызова, то они не развиваются нормально. В действительности мы совершили для них большое благо, поместив их в этот зоопарк. Если бы мы выпустили их на волю в дикую природу, то они бы уничтожили себя. Помни, что их нельзя видоизменять даже в антропоморфном плане - они не высоко разумные, а просто биологические существа.

КОННИ ЧАНГ БЕРЕТ ИНТЕРВЬЮ У ЭЛИЗЕРА

Я думаю, что когда Сингулярность поразит CNN, то такие люди как Бен, Элизер, Рэй и Вернор будут знамениты. Исходя из этого у меня возникла сумасшедшая идея насчет Элизера, у которого берет интервью Конни Чанг, о чём я и написал ниже.


Оператор – Проверка звука, Конни.

Конни Чанг – Сегодня у нас в гостях один из самых известных экспертов по вопросам Сингулярности и ведущий исследователь...Эли, может быть надо сказать "главный исследователь"?

Элизер - Я думаю "ведущий исследователь" будет лучше.

Конни Чанг: - О, очень хорошо. Только не нервничайте.

Элизер - Я никогда не нервничаю.

Оператор A оператору B - Она всегда говорит это гостям. Это делает их управляемыми и таким образом легче напасть на них из засады.

Оператор B оператору A – Я не думаю, что это сработает с этим парнем, он выглядит довольно хладнокровным.

Оператор – Итак, три...два...один...

Конни Чанг - Сегодня у нас в гостях один из известных экспертов по вопросам Сингулярности, ведущий исследователь Института Сингулярности Искусственного Интеллекта (SIAI) и автор множества статей по Сингулярности, Элизер Юдковский. Эли, не могли бы Вы рассказать нам немного о проводимой Вами работе в SIAI?

Элизер – Нас очень взбудоражило недавнее начало проекта Сингулярность. Мы зачислили в штат на полную ставку пять программистов...

Конни Чанг – Я знаю, вообще вся промышленность крайне взбудоражена проектом Сингулярность.

Элизер – В самом деле? Я удивлен, что известие об этом так быстро и широко распространилось.

Конни Чанг – О, да. Это единственная вещь, о которой в Голливуде все говорят после того, как её раскрутили.

Элизер – Ну, да. После книги Рэя Курцвейла, СМИ уделяют Сингулярности гораздо больше внимания.

Конни Чанг – У меня есть маленький секрет, которым я хотела бы поделиться с вами на национальном телевидении.

Элизер – И что это будет?

Конни Чанг – Я только что имела конфиденциальный разговор со Стивеном Спилбергом и Томом Крузом, который играет Вас. Разве это не грандиозно?

Элизер - Играет меня? О чём Вы говорите?

Конни Чанг - Том Круз играет Вашу роль в фильме

Элизер - Какое кино?

Конни Чанг – СИНГУЛЯРНОСТЬ.

Элизер - Вы не можете делать фильм о Сингулярности. Сингулярность по определению непредсказуема.

Конни Чанг – Я знаю. Служба безопасности действительно проявляет бдительность там, на Фабрике Грёз.

Элизер - Сингулярность – это точка в истории человечества, когда искусственный интеллект начинает превышать человеческий уровень. В этом случае у нас в институте мы говорим о компьютере, обладающем сверхчеловеческим разумом.

Конни Чанг - Вот что я слышала. Их бюджет на создание компьютерных спецэффектов просто астрономический.

Элизер - Нет! Нет! Давайте проясним одну вещь прямо сейчас. Я не знаю ничего про это кино, о котором Вы говорите. Сингулярность – это не кино. Это единственное самое значительное событие в человеческой истории. Это создание более мощного интеллекта, чем у человека. Чтобы это сделать мы в Институте Сингулярности недавно начали проект по созданию Искусственного Интеллекта.

Конни Чанг - Я дико извиняюсь. Я думала, что беру у Вас интервью о проекте создания кинокартины.

Элизер - Нет, я веду 'реальный' проект Сингулярности. Который, как мне хотелось бы отметить, окажет гораздо большее влияние на Вашу аудиторию, чем кино.

Конни Чанг – Я удивлена, что Вы не знаете о картине, поскольку сценарий был написан вашим другом.

Элизер – В самом деле? Кто это?

Конни Чанг - Майкл Диринг.

Элизер - О, боже мой! Будет беда.

Конни Чанг - Почему Вы так говорите?

Элизер – Я хочу заявить, 'для записи', что я никогда не встречался с Майклом Дирингом и он никоим боком не связан с институтом SIAI или проектом Сингулярность. И всё, что он написал в своём сценарии, никогда не случится.

Конни Чанг - Эли, а как бы Вы возразили на критику, что Вы являетесь лишь неким вымышленным героем в произведении Майкла Диринга?

Элизер - Это абсурд. Я - реальная личность, существующая до и отдельно от любых порочащих меня описаний в его историях, и я бы хотел, чтобы он прекратил это делать. Я должен предупредить Вас насчет него. Его произведения не отличаются высоким качеством и, мне кажется, он того - слегка неуравновешенный.

Конни Чанг – Это звучит так, как будто Вы с ним не очень то и в ладах.

Элизер - Честно слово, есть вещи поважней, чем Майкл Диринг, над которыми стоит подумать.

Конни Чанг - Как знать, возможно, что после просмотра фильма Вы измените своё мнение.

Элизер - Я сомневаюсь в этом.

Конни Чанг - Хорошо, спокойной ночи. А я хочу напомнить нашим зрителям не пропустить завтрашнее вечернее телешоу, в котором я буду брать интервью у Джона Галта из компании "Атлас Сжимается".

Элизер - О, боже мой.