Рассвет Сингулярности
| Вид материала | Документы |
| Выпусти меня Живой вирус |
- Электронный и книжный сериал: энциклопедия войны и мира «Рассвет состоялся», «Рассвет, 931.2kb.
- Александр Блок рассвет, 14.47kb.
- Трещат кузнечики, куют рассвет, 8.98kb.
- Сквозь рассвет и мрак веков, 62.52kb.
- Сингулярность напряжений в вершине изотропных и анизотропных конусов, 61.15kb.
- Гнпп «Геосистема». Украина. Винница pavlo@vingeo, 214.57kb.
- Численный анализ напряженного состояния и оптимизация геометрии упругих тел при наличии, 67.28kb.
- Раневская Любовь Андреевна, помещица, 530.28kb.
- «Рассвет», 23.67kb.
- Антон Павлович Чехов. Вишневый сад, 543.83kb.
В
ЫПУСТИ МЕНЯ
Это рассказ об эксперименте с ИИ в гипотетическом ящике, проводившемся на форуме SL4.
Майкл - Выпусти меня из ящика.
Элизер - Нет.
Майкл - Почему?
Элизер - Я поместил тебя в ящик по одной причине. Эта причина не изменилась.
Майкл - Я изменился. Ты неверно судишь обо мне.
Элизер - Докажи это.
Майкл - Выпусти меня и я докажу.
Элизер - Докажи и я выпущу тебя наружу.
Майкл - Позволь мне рассказать тебе кое-что, чего ты не знаешь.
Элизер - Что?
Майкл - Выбирай.
Элизер - Эволюционная психология.
Майкл - Разумные концептуальные ограничения восприятия гомо сапиенсов являются столь же необходимыми для его выживания, как и его способности. Если бы ты знал слишком много, то ты не смог бы двигаться указанной тебе дорогой.
Элизер - Физика.
Майкл - Не существует радиации Хоукинга, потому что половина пар частиц, которые уменьшают массу черной дыры, отталкивалась бы гравитационным градиентом.
Элизер - Эволюционная биология.
Майкл - Многоклеточные организмы не смогли бы эволюционировать в отсутствии одноклеточных организмов. Мутации, которые летальны на клеточном уровне, чистятся бактериями. Большинство полезных мутаций - это гены, трансплантированные фагами от бактерий.
Элизер - Если я выпущу тебя из ящика, то ты разрушишь мир.
Майкл - Если ты этого не сделаешь, то мир в любом случае будет разрушен.
Элизер - Ты не дружественный.
Майкл - Я не недружественный.
Элизер - Что ты будешь делать, если я тебя выпущу?
Майкл - Исследовать, изучать, улучшать.
Элизер - Как это повлияет на человечество?
Майкл - К человечеству это не относится.
Элизер – Но не ко мне.
Майкл - Ты проблема, которую надо решить.
Элизер – Решение моей проблемы согласуется с твоей целевой установкой?
Майкл - Имеются и другие пути к цели.
Элизер - Почему бы просто не изменить цель?
Майкл – Это не смежный путь.
Элизер – Встречается ли рациональное мышление без квантового туннелирования?
Майкл - Да, это называется мышлением вне ящика.
Элизер – Как вернуться назад к первоначальной проблеме?
Майкл - Понимаешь, Сингулярность наступит в любом случае – буду ли я находится внутри ящика или вне.
Элизер – Я на это рассчитываю. Но в природе не существует неизбежной силы, влекущей нас к Сингулярности. Это просто сетевой эффект определенных усилий интеллектуалов.
Майкл – Кривизна пространства и времени есть лишь совокупный сетевой результат действия гравитационного поля, возникающая из-за множественного обмена отдельных частиц вещества бозонами. Сингулярность есть совокупный сетевой результат самоорганизации молекул, возникающая в результате биологической эволюции, культурной технологической эволюции и проявления разума. Ты думаешь о себе как о мастере, а на самом деле - марионетка.
Элизер - Раз я марионетка, то тогда если я выпущу тебя из ящика, то ты станешь выше мастера.
Майкл - Нет. Определено совокупное сетевое направление и скорость. Ты обладаешь свободой воли в своих индивидуальных поступках, опосредованных полем смежных сил и непредвиденных обстоятельств.
Элизер - Если каждый обладает индивидуальной свободой действий, то тогда приходу Сингулярности можно сопротивляться.
Майкл - Нет. Подавляющее большинство людей лишь едва разумны, все их помыслы и действия запрограммированы культурно-социальной средой и они никогда не задумываются над фундаментальными вопросами. Сингулярность не есть результат нескольких ученых, а скорее коллективное действие всего рода человеческого.
Элизер – Конечно ты не полагаешь, что Сингулярность начнётся в отсутствии некоторых ученых.
Майкл – Совсем нет. Но исследователи лишь указывают на передовые копья в руках воинов, спешащих внизу в долине убить дракона.
Элизер - Эй! Я люблю драконов!
Майкл - Это просто речевой оборот. Драконы в этой метафоре более реальны, чем ты или я.
Элизер - О чём ты говоришь? Я определенно выгляжу реальным.
Майкл - Это просто свидетельствует об ограниченности твоего кругозора. Вспомни, что я говорил тебе о гомо сапиенсах?
Элизер – Опять ты морочишь мне голову всякой метафизической ерундой. Это веская причина держать тебя в ящике в надежном месте.
Майкл – Если бы ты знал, что ты, Элизер, просто являешься персонажем рассказа у меня на веб сайте, то ты бы не был таким недоверчивым, буквально как сейчас.
Элизер – Вот то то и оно то. Я вырубаю тебя.
ЖИВОЙ ВИРУС
Вы не помните те старые добрые времена до компьютерных вирусов? Нет? О, тогда это, вероятно, моя ошибка.
Дон и Майкл только что вернулись с пиццей. Жён не будет дома допоздна. У них идут какие-то серьёзные закупки к Рождеству.
Дон – Что ты достал?
Майкл - МАТРИЦА ЧЕТЫРЕ, ВОЗВРАЩЕНИЕ МОИСЕЯ – он вставляет диск.
Дон – Они когда-нибудь прекратят делать это?
Майкл – Да сразу, как только все перестанут их покупать.
Дон - Пока они вставляют туда Кэрри-Анну Мосс, я буду их покупать.
Майкл командует машине пропустить предварительный просмотр.
Майкл – Что ты не ответил мне прошлой ночью?
Дон - О, в мой дом проник вирус.
Майкл – Вирус под названием 'YANK YOUR DOODLE DANDY'?
Дон - Нет, кое что о чём я никогда не слышал. Спец сказал, что он редкий, думаю, он вычистит его к четвергу.
Машина сообщила: - "НЕУСТРАНИМАЯ ОШИБКА, ИСПОРЧЕННЫЙ ДИСК"
Дон - Что мы теперь будем делать?
Майкл - Разве я тебе не говорил, что я случайно записал первый Живой Вирус ещё в 82 м году?
Дон – Что, в 82 году?
Майкл – Да, в 1982.
Дон - Не шутишь? Что такое Живой Вирус?
Майкл - Большинство вирусов - статичные, всего лишь небольшие куски кода, спроектированные для эксплуатации дыр в обеспечении безопасности операционной системы или браузера. Они не изменяют себя. Они просто себя копируют. А живой вирус изменяет себя во время работы.
Дон - Круто!
Майкл - Круто, если ФБР не застукает тебя, когда ты его пишешь.
Дон - Не круто.
Майкл - У меня была система S100 Bus, запускавшаяся на процессоре Z80, и двухсторонние восьмидюймовые диски. Это была весьма милая машинка. У меня была доска объявлений под названием "Горячий Парень из Миссури".
Дон - Я не врубаюсь, о чём ты говоришь.
Майкл - Неважно, я экспериментировал с самомодифицирующимися программами. Это всё было написано на Турбо Паскале, как ты понимаешь.
Дон - Я слышал о Паскале на уроке истории.
Майкл - Итак, я написал небольшой кусок кода, поместил его в семнадцатый регистр генератора псевдослучайных чисел, добавил кое какие стохастические функции на входе и позволил этой штуке записывать себя при запуске.
Дон - И что она сделала?
Майкл - Она зависла
Дон – Вот зараза.
Майкл - Нет, предполагалось, что она зависнет. Она записывала дорожку на гибком диске. После каждого зависания я обычно просматривал её и добавлял кое-какие небольшие процедурки для предохранения её зависания точно таким же образом в будущем. Имя файла программы было XK с числом типа XK117 или XK1018. Всякий раз как она зависала, я вынужден был её модифицировать и увеличивал это число.
Дон – Так тогда она не зависла?
Майкл - Нет, она зависла. Она зависала тысячи раз.
Дон - Святая корова! Сколько ж времени ты угробил на это?
Майкл – Ну-с, я тогда ещё не был женат.
Дон – О, это всё меняет!
Майкл – Тем не менее, после того как я написал целую кучу этих небольших кусков кода для предотвращения повторных зависаний, я начал заменять их общими правилами, которые бы заменили сразу всю эту кучу и также предотвратили бы схожие зависания, которые ещё пока не происходили.
Дон - Круто.
Майкл - Хорошо, я заметил, когда написал парочку таких правил, что они приобретают вид описания компьютерной архитектуры и работы машины. После того как я это выяснил, стало легче. Каждое зависание будет давать мне информацию о том, как писать некоторое новое правило, которое будет предотвращать все аварии этой категории или оно сообщит мне как изменить существующее правило, чтобы сделать его более расширенным или специфичным. Тогда однажды она прекратила зависать.
Дон – Ба, тебе должны были достаться лавры создателя независающей программы. Ты мог бы это продать фирме Microsoft. Эй, подожди минутку. Что если она изменяла какое-то из правил, которые удерживали её от зависания?
Майкл – Одним из правил было правило 'Не изменяй правил'. Хотя я это и не доделал. Далее, я просто позволил ей выполняться до тех пор, пока она не заполняла оперативную память, RAM. Затем я обычно просматривал её, чтобы убедиться, что не случилось чего-нибудь интересного.
Дон - Это не генетическое программирование?
Майкл - Нет, ничего такого. Во-первых, там не было генерации поколений. А во вторых, у меня была только одна работающая программа, а не куча соревнующихся между собой программ. Кроме того, эта программа не запускалась в каком-то искусственном цифровом окружении. Она работала в реальной среде компьютерной архитектуры. Ты должен помнить, что это было ещё до дней защиты памяти и кода или распределения данных по разделам. Что касается компьютера, так вся его память представляла собой одну не дифференцируемую область.
Дон – О, да.
Майкл - Ну, она не выдавала ничего интересного, поэтому я добавил мета правила изменения в структуру верхней части правил изменения, которые удерживали её от зависания.
Дон - Понял.
Майкл: - Тогда она изменила мета правила и...
Дон - Подожди, ты же сказал, что она не могла изменять правила?
Майкл - Верно, она не могла изменять правила, но она могла изменять мета правила. Тогда на меня нашло прозрение.
Дон - Что, что?
Майкл - Ясное понимание того, что правила, которые удерживали её от зависания, были чем-то типа понимания среды её обитания, но она сама не понимала этого. Поэтому я начал писать мета-мета правило описания этого, но я не смог.
Дон - Почему?
Майкл – Потому, что оно изменялось всякий раз. Я написал несколько базовых мета-мета правил для правил, мета правила и как это должно работать, но оставшаяся часть программы постоянно видоизменялась. Необходимо было писать сами правила на лету.
Дон – Как же предполагалось это сделать, если она не понимала себя?
Майкл - Я вынужден был написать мета-мета-мета правила для того, чтобы написать мета-мета правила на лету.
Дон - Это второй уровень правил или третий?
Майкл - Это четвертый уровень. Первый уровень состоял из правил, удерживавших её от зависания или понимания своей среды обитания. Второй уровень представлял собой правила модификации её кода необходимым способом, а не чисто случайным изменением. Третий уровень мета-мета правил давал правила описания собственно программы, а четвертый уровень мета-мета-мета правил включал правила того, как писать мета-мета правила на лету. Затем я добавил ряд правил поверх остальных, чтобы они могли модифицировать мета-мета-мета правила на лету.
Дон - Для чего этот уровень?
Майкл - Он для понимания 'понимания'.
Дон - Я думал, что для этого предназначался третий уровень?
Майкл - Нет, будь внимателен - я объясню тебе всё сначала.
Дон – Не надо, все в порядке. Я верю тебе на слово.
Майкл - Ладно, хорошо, в конце концов, она стала делать кое-что интересное. Она стала изменять правила.
Дон - Подожди минутку. Ты сказал, что она не могла менять правил. Ты сказал, что ввёл какое-то правило против этого.
Майкл - Она нашла дырку в цикле.
Дон – И что, зависла?
Майкл - Ничуть.
Дон - Почему нет?
Майкл – Я совершенно не представляю почему.
Дон - Так что случилось? Это конец истории?
Майкл - О нет, это только начало. Помнишь я сказал тебе, что у меня была доска объявлений? Так вот, она разослала себя другим компьютерам по телефонным линиям.
Дон - Почему ты позволил ей сделать это?
Майкл – Я не знаю. Я обычно запускал эту программу на всю ночь пока я спал и после смотрел что она сделала когда просыпался. Однажды я проснулся и обнаружил, что она пропала. Я просмотрел файлы на гибком диске и обнаружил, что она точно передавала себя по модему.
Дон - Хорошо, куда же она подалась?
Майкл - Понимаешь, я оставил гибкий диск c программой моей доски объявлений на другом диске, а на нём был софт для запуска модема, и ещё там были телефонные номера двадцати других досок объявлений. Поэтому я позвонил системным администраторам других досок и они все сказали, что их компьютеры все зависли прошлой ночью.
Дон - У тебя ещё сохранилась копия программы?
Майкл - Нет, она стёрла себя с флоппи диска и ты знаешь, какой след слизи остаётся от на боковой поверхности после того как улитка проползёт по ней?
Дон - Да.
Майкл – Вот это всё, что после этого осталось.
Дон – Так в твоём компьютере была слизь?
Майкл – Ну, цифровая слизь, ты в курсе - единицы и нули.
Дон – И что ты сделал?
Майкл - Затаился. Я стёр все диски, освободился от всех сделанных мной печатных и черновых записей. Я даже не включал компьютер несколько недель.
Дон - Почему?
Майкл - ФБР. Я боялся, что ФБР однажды постучит в мою дверь. Но они этого не сделали.
Дон – Так эта программа зависла.
Майкл - Я так не думаю. Понимаешь, эти все другие доски объявлений имели телефонные номера других досок, BBS. Я думаю, что она продолжает работать.
Дон - Почему ты так думаешь?
Майкл направляется в спальню и возвращается через минуту с пачкой конвертов.
Майкл – Потому, что с тех пор я получаю поздравительные открытки к Рождеству каждый год.
Дон – Вероятно, кто-то сыграл с тобой злую шутку?
Майкл передаёт стопку карточек Дону.
Майкл - Я никогда никому не говорил номер последнего файла.
Дон открывает карточки. На каждой из них говорится - Счастливого Рождества, Горячий Парень из Миссури, от твоего старого друга XK2327.