Дэвид Джерролд

Вид материала

Подобный материал:

1 ... 10 11 12 13 14 15 16 17 18

2

о

г

в

X

о s<

la

го

I

я> о

Е

2

а

н

S

226

227

Прими красную таблетку >/

ми темпами, причем по экспоненте. С каждым новым поколением способов сканирования мозга мы получаем все лучшее и лучшее разрешение. Сегодня мы обладаем технологией, позволяющей разглядеть многие из скрытых элементов человеческого мозга. Разумеется, окончательного согласия по поводу того, что это за элементы, еще не достигнуто, однако мы можем наблюдать элементы мозга с очень высоким разрешением благодаря тому, что датчик сканирующего устройства имеет размеры, приближенные к самим наблюдаемым элементам. В настоящее время мы можем сканировать мозг и отслеживать его деятельность очень подробно. Для этого нужно всего лишь перемещать датчик сканирующего устройства по всему мозгу, чтобы он находился как можно ближе к каждому из элементов нейронов.

Теперь зададимся вопросом: как мы собираемся проделать эту операцию и ничего не повредить? Ответ: нужно послать сканеры внутрь мозга. Наши капилляры устроены так, что они проходят через каждое межнейронное соединение, каждый нейрон и каждый элемент нейрона. Мы можем отправить туда миллиарды сканирующих роботов, объединенных в одну беспроводную локальную сеть, чтобы они смогли отсканировать мозг изнутри и начертить карту с высоким разрешением, отражающую все, что происходит внутри.

Что же мы будем делать с огромными базами данных, объединяющих нейронную информацию, которую мы соберем? Мы обязательно проведем реинжиниринг мозга, чтобы понять основные принципы его функционирования. Мы уже пытаемся это делать. Мы уже располагаем отсканированными изображениями определенных зон головного мозга. Эти изображения имеют высокое разрешение. Мозг - это не монолитный орган; он состоит из нескольких сотен специализированных участков, каждый из которых организован по-своему. Мы отсканировали отдельные зоны слуховой и зрительной коры и использовали эту информацию для создания более «умного» программного обеспечения. Карвер Мид из Калтеха, например, разработал мощные аналоговые чипы с цифровым управлением на осноье вдохновленных био-

2

28

логией моделей, созданных при помощи инженерного анализа отдельных участков зрительной и слуховой систем. Его визуально-чувствительные чипы используются в цифровых камерах высокого класса.

Мы продемонстрировали, что способны понимать эти алгоритмы, однако они отличаются от алгоритмов, которыми мы обычно снабжаем наши компьютеры. Они не являются ни последовательными, ни логичными - они хаотичные, высокопараллельные и самоорганизующиеся. По своей природе они голографичны в том смысле, что главного исполнительного менеджера-нейрона в мозге не существует. Вы можете убрать любой из нейронов, отрезать любой проводок, и все останется почти без изменений, потому что информация и процессы распределяются по всей сложной сети. Отталкиваясь от этих открытий, мы создали ряд моделей, на которые нас натолкнула биология. Именно в этой сфере я работаю, пользуясь такими методиками, как эволюционные «генетические алгоритмы» и «нейронные сети». В них задействованы подсказанные биологией модели. Нынешние нейронные сети математически упрощены, однако по мере проникновения в принципы работы различных участков головного мозга мы сможем разрабатывать более мощные модели на основе биологических данных. В конечном итоге мы сможем спроектировать и воссоздать эти процессы, сохранив такие их свойства, как врожденный широкомасштабный параллелизм, аналогичное цифровому управление, хаотичность и способность самоорганизовываться. Мы сможем воспроизводить типы процессов, происходящих в сотнях различных участков мозга, и создавать организмы, сделанные не на основе кремния, а, возможно, с применением чего-нибудь вроде наноламп, которые сравняются в сложности, богатстве и глубине с человеческим интеллектом.

Наши сегодняшние механизмы по-прежнему устроены в миллионы раз проще человеческого мозга. Это одна из основных причин, по которым они все еще не приобрели подкупающих нас особенностей людей. У них нет нашей способности шутить, дурачиться, понимать ближних, адекватно реагировать на проявления эмоций или испытывать внутренние переживания. Это не побоч-

229

X S (D

о

ш л>

о о

ю

ь

п I

О

а

S

ж

3

а н

■о

I ■■о

Прими красную таблетку >/

ные эффекты человеческого интеллекта или некая рассеянность. Это преимущества человеческого интеллекта. Для того чтобы создать организмы, которым будут свойственны столь же привлекательные и убедительные черты, потребуется технология такого же уровня сложности, какой присущ человеческому мозгу.

Возвращаясь к виртуальной реальности, давайте рассмотрим сценарий, включающий в себя прямую связь между человеческим мозгом и имплантантами, созданными на основе нанобо-тов. Существует ряд различных технологий, действие которых уже демонстрировалось: они применялись для обеспечения связи в обоих направлениях между влажным аналоговым миром нейронов и цифровым миром электроники. Одна такая технология, которая называется нейротранзистором, обеспечивает двустороннюю связь. При возбуждении нейрона нейронный транзистор засекает этот электромагнитный импульс, и при этом осуществляется коммуникация между нейроном и электроникой. При помощи этой системы можно также возбудить нейрон или блокировать его возбуждение.

Для полного погружения в виртуальную реальность мы направим миллиарды этих наноботов с тем, чтобы они разместились у каждого нервного волокна, исходящего от всех наших органов чувств. Если вы захотите остаться в подлинной реальности, они будут просто сидеть на своих местах и ничего не делать. Если вы захотите перейти в виртуальную реальность, они начнут подавлять сигналы, поступающие от ваших настоящих органов чувств, и станут заменять их сигналами, которые вы бы получали, находясь в виртуальной среде.

При такой схеме мы будем получать виртуальную реальность изнутри, и она сможет воспроизводить все наши ощущения. Это будет коллективная среда, в которую можно будет войти и одному человеку, и многим людям. Посещение какого-нибудь web-сайта будет означать попадание в среду виртуальной реальности, охватывающую все наши чувства, причем не только поступающие от пяти основных чувств, но и эмоции, сексуальное удовлетворение, юмор. На самом деле неврологические корреляты всех этих ощущений и

эмоций, которые я обсуждаю в книге «Эпоха одухотворенных машин» («The Age of the Spiritual Machines»), уже существуют.

К примеру, хирурги, проводившие операцию на открытом мозге девушки (она была в сознании), обнаружили, что стимуляция определенной точки мозга может заставить девушку смеяться. Хирурги подумали, что они просто привели в действие безусловный рефлекс. Однако потом они открыли, что стимулировали восприятие юмора: всякий раз, когда они воздействовали на эту точку, девушке все казалось смешным. «Вы, ребята, просто уморительны, когда стоите тут» - вот типичная фраза девушки во время стимуляции.

Используя имплантанты на основе наноботов, мы сможем усиливать или ослаблять наши эмоциональные реакции на различные переживания. Эта возможность лежит на поверхности. Кроме того, вы сможете иметь несколько тел для разных переживаний. Как сегодня люди передают свои изображения при помощи web-камер, установленных у них в квартирах, так можно будет направлять на себя весь поток ощущений и даже эмоций из Интернета, так что вы сможете, как в фильме «Быть Джоном Малковичем», переживать жизнь других людей.

В конечном итоге эти наноботы повысят уровень человеческого интеллекта и расширят наши способности и возможности во многих направлениях. Поскольку они общаются друг с другом беспроводным способом, они могут создавать новые нейронные соединения. Эти соединения могут расширить нашу память, когнитивные навыки и познавательные способности. Мы увеличим возможности человеческого интеллекта, расширив его сегодняшнюю схему обширных межнейронных соединений, а также посредством установления тесной связи с небиологическими формами интеллекта.

Кроме того, мы сможем загружать знания, то есть воспроизвести то, что сегодняшние машины в состоянии делать, а мы нет. Так, например, мы потратили несколько лет, обучая один исследовательский компьютер понимать человеческую речь. При этом мы использовали модели с биологическими прототипами: нейронные сети, модели Маркова, генетические алгоритмы, са-

I

X

s

(D

X

о о

о

2 а

s х о

SC

За

а

s

о

о

аз

(В ■о

230

231

Прими красную таблетку >/

моорганизующиеся структуры. Все эти модели основаны на нашем пока еще грубом представлении о самоорганизующихся системах в биологическом мире. Основная часть технического проекта предполагала запись голосов различных людей, говоривших на разных диалектах, объемом в несколько тысяч часов. Потом эта запись была представлена системе, и ее заставили попытаться распознать записанную речь. Система делала ошибки, и тогда мы ввели автоматическое регулирование и самоорганизацию, чтобы система лучше осмысляла то, что она выучила.

Спустя много месяцев такого обучения система существенно улучшила свою способность распознавать речь. Если вы хотите, чтобы ваш персональный компьютер умел понимать человеческую речь, вам не надо тратить годы, обучая его так же кропотливо, как нам приходится обучать каждого ребенка. Вы можете просто загрузить разработанные модели - это называется «загрузить программы». Так что машины могут делиться своими знаниями.

В нашем мозге нет порта для быстрой загрузки информации. Но как только мы создадим небиологические аналоги наших нейронов, межнейронных соединений и нейротрансмиттерных уровней, где хранятся наши навыки и воспоминания, мы не упустим возможности создать и эквивалент загрузочного порта. Мы сможем загружать необходимые навыки с такой же легкостью, как Тринити загружает в свой мозг программу, позволяющую ей управлять вертолетом «Б-222».

Когда вы будете разговаривать с кем-нибудь в 2040 году, может статься так, что умственная деятельность вашего собеседника биологического происхождения будет являть собой гибрид биологического и электронного типов мышления, тесно сопряженных друг с другом. Вместо того чтобы ограничиваться всего лишь сотней триллионов соединений в нашем мозгу, как это имеет место сейчас, мы сможем значительно превзойти этот уровень. Скорость нашего биологического мышления фиксирована: считается, что человек может производить 1026 вычислений в секунду, и эта биологически заданная цифра не собирается спонтанно увеличиваться. Однако способности небиологического интеллекта возраста-

2

32

ют экспоненциально. По моим расчетам, критическая точка наступит в 2030-е годы; некоторые называют это точкой перехода.

Когда мы доберемся до 2050 года, основная часть нашего мышления, которое, на мой взгляд, все еще является синонимом человеческой цивилизации, будет иметь небиологический характер. Я не считаю смертельную схватку враждебного искусственного интеллекта с человеческим, нашедшую отражение в «Матрице», неизбежным сценарием развития событий. Небиологическая часть нашего мышления будет по-прежнему оставаться человеческой, потому что она будет производной от биологического мышления. Она будет разработана людьми или машинами, созданными людьми, или машинами, построенными на основе инженерного анализа человеческого мозга либо загрузки человеческого мышления, либо на основе одного из многих других возможных вариантов тесного симбиоза между человеческим мышлением и мышлением машины, о котором мы не можем даже помыслить сегодня.

Обычная реакция на эти предположения: как все это мрачно, поскольку я «ставлю человечество на один уровень с машинами». Однако подобная реакция объясняется тем, что большинство людей имеет предубеждение против машин. Большая часть экспертов на самом деле не представляют, на что в конечном итоге способны машины, поскольку все машины, которые когда-либо «встречались» им, очень ограниченны по сравнению с людьми. Однако это не будет относиться к машинам года 2030-го или 2040-го. Когда машины станут производной человеческого интеллекта, которая к тому же в миллион раз способней человека, мы уже начнем уважать их, и явное различие между человеческим интеллектом и интеллектом машины исчезнет. Мы действительно сольемся с нашей технологией.

Мы уже идем по этому пути. Если машины во всем мире остановились бы, наша цивилизация могла бы впасть в коллапс от количества тяжелой утомительной работы сегодня. Совсем недавно, лет тридцать назад, этого бы не случилось. В 2040 году человеческий интеллект и интеллект машины будут очень тесно спаяны. Мы станем способны испытывать куда более сильные ощуще-

233

о

s а

х s

(D Л

<т>

о а Ф

а о

3

а

о

S1

а

н тз

S .Е Ф ■О

Прими красную таблетку >/

ния самого различного рода. Мы сможем «воссоздавать мир», созданный нашим воображением, и проникать в разные среды, настолько же изумительные, как в «Матрице». Остается только надеяться, что этот мир будет больше открыт для творческого самовыражения человека и его переживаний.

Библиография

Kurzweil Ft. The Age of Spiritual Machines: When Computers Exceed Intelligence. 2000.

Билл Джой

П ОЧЕМУ МЫ НЕ НУЖНЫ БУДУЩЕМУ

В

предыдущей статье Курцвейль делится оптимистическими прогнозами насчет потенциальных возможностей технологии, способных изменить знакомый нам мир. В этой статье Билл Джой, руководитель исследовательских работ в Sun и один из вождей революции, связанной с распространением Интернета, более мрачно смотрит на вещи. Разделяя мнение Курцвейля относительно тенденций будущего развития, Джой находит больше поводов для волнения. Ужасы «Матрицы» - это лишь одна сторона возможных кошмаров... Самые мощные технологии XXI века -робототехника, генная инженерия и нанотехнология - угрожают превратить людей в вымирающий вид.

С

того момента, как я увлекся разработкой новых технологий, меня стала занимать их этическая сторона. Но лишь осенью 1998 года я с тревогой осознал, насколько велика опасность, подстерегающая нас в двадцать первом столетии. Я начал беспокоиться об этом с того дня, когда встретил Рея Курцвейля, заслуженно известного изобретателя первой читающей машины для слепых и многих других поразительных вещей.

Мы с Реем выступали на Телекосмической конференции Джорджа Джилдера. Я случайно повстречал его в баре отеля после того, как секции, где мы выступали, закончили свою работу. Я сидел с Джоном Серлем, философом из Беркли, занимающимся изучением сознания. Мы с ним мирно беседовали, и тут к нам подошел Рей. Завязался разговор, предмет которого не дает мне покоя по сей день.

Я пропустил выступление Рея и вообще ту дискуссию, в которой они с Джоном принимали участие на конференции. Они начали с того, на чем тогда остановились: Рей сказал, что скорость совершенствования технологий будет возрастать и в недалеком будущем мы станем роботами или объединимся с ними, - в об-

235

Прими красную таблетку >/

щем, что-то в этом роде, - а Джон опроверг его, сказав, что это невозможно, поскольку роботы не могут обладать сознанием.

Когда я слышал подобные разговоры раньше, мне всегда казалось, что разумные роботы существуют лишь в произведениях научной фантастики. Но теперь от человека, которого я уважал, я слышал убедительные доказательства в пользу того, что появление таких роботов можно ожидать в ближайшем будущем. Я был захвачен врасплох. Особенно меня потрясла знаменитая способность Рея изображать и моделировать будущее. Я уже знал, что новые технологии, наподобие генной инженерии и нанотехноло-гии, наделяют нас силой, позволяющей переделывать мир, однако реалистичный и неотвратимый сценарий, по которому появятся обладающие интеллектом роботы, сразил меня наповал.

Пресытиться информацией о таких достижениях довольно легко. Почти каждый день мы слышим в новостях о каких-нибудь прорывах в сфере технологии или науки. Однако предсказание Рея было не из числа привычных. В баре отеля Рей дал мне часть препринта своей книги «Эпоха одухотворенных машин», которая вот-вот должна была появиться. В этой книге Рей описывал предсказанную им утопию. По его мнению, в будущем люди станут почти бессмертными, слившись с роботизированной технологией. Чтение препринта книги Рея лишь усилило мою тревогу. Я был уверен, что он должен представлять себе все связанные с такой перспективой опасности и учитывать возможность плохого исхода.

Больше всего меня встревожил отрывок, в котором подробно излагался следующий дистопичный сценарий:

Новый луддитский вызов

Прежде всего давайте допустим, что специалисты по вычислительной технике преуспели в разработке разумных машин, способных делать все лучше человека. Предполагается, что при таких условиях вся работа будет выполняться многочисленными высокоорганизованными системами машин, и при ЭТ1./М в каких-либо усилиях со стороны человека не будет необходимости. Здесь становятся возможными два варианта. Машины могут получить разрешение

принимать свои решения без вмешательства человека, либо человеческий контроль над машинами может быть сохранен.

Если машинам позволят принимать решения самостоятельно, мы не можем делать никаких предположений относительно результатов этих решений, поскольку предугадать действия таких машин невозможно. Подчеркнем лишь то, что судьба человечества в этом случае окажется во власти машин. Можно было бы утверждать, что человечество никогда не будет настолько глупым, чтобы передать машинам всю полноту власти. Однако мы не рассчитываем ни на то, что люди добровольно отдадут власть машинам, ни на то, что машины умышленно захватят власть. Мы как раз предполагаем, что человечество может с легкостью дойти до такой зависимости от машин, что у него не останется другого реального выбора, кроме как соглашаться со всеми решениями машин. По мере того как общество и проблемы, с которыми оно сталкивается, Ъущ! усложняться, а машины становиться все умнее и умнее, люди будут позволять машинам принимать за них все больше решений просто потому, что решения, принятые машинами, будут давать лучшие результаты, чем решения, принятые самими людьми. В конечном итоге может настать такой момент, когда решения, необходимые для поддержания системы в рабочем состоянии, достигнут такой сложности, что люди окажутся не способны принимать их. На этом этапе машины приобретут эффективный контроль. Люди просто не смогут выключить их, потому что их зависимость от машин будет настолько сильна, что отключение машин будет равнозначно самоубийству. С другой стороны, возможно, что люди сохранят контроль над машинами. В этом случае среднестатистический человек может контролировать определенные машины, находящиеся в его личном пользовании, например свою машину или свой компьютер, в то же время контроль над крупными системами машин будет находиться в руках крайне немногочисленной элиты - прямо как сейчас, но только с двумя отличиями. Благодаря улучшенной технологии элита приобретет больший контроль над массами, а посколь-

Е

< ф

<

236

237

Прими красную таблетку >/

ку человеческий труд перестанет быть необходимостью, массы станут ненужным, бесполезным бременем для системы. Если элита будет отличаться беспощадностью, она может просто решить ликвидировать большую часть человечества. Если элите будет свойствен гуманизм, она может воспользоваться пропагандой или другими психологическими либо биологическими приемами для сокращения уровня рождаемости до такого уровня, при котором большая часть человечества вымрет сама, оставив мир элите. Есть другой вариант. Если элита будет состоять из мягкосердечных либералов, они могут начать играть роль доброго пастыря по отношению к остальному человечеству. Они будут следить за тем, чтобы удовлетворялись физические потребности всех и каждого, чтобы все дети росли в психологически безопасных условиях, чтобы у каждого человека было полезное хобби и он не слонялся без дела, и чтобы каждый, если вдруг почувствует себя неудовлетворенным, получал соответствующее «лечение», помогающее ему выздороветь и избавиться от этой «проблемы». Разумеется, человеческая жизнь станет настолько бесцельной, что людей придется настраивать биологически или психологически, либо ликвидировать их потребность в обретении власти. Либо заставить их сублимировать стремление к власти в какое-нибудь безвредное увлечение. Возможно, эти управляемые человеческие существа и будут счастливы в таком обществе, однако почти точно можно сказать, что они не будут свободны. Людей сведут до уровня домашних животных¹⁸³.

¹⁸³ Курцвейль цитирует отрывок из «Манифеста Унабомбера» Качинс-кого, который был одновременно опубликован, причем под давлением, в New York Times и Washington Post, чтобы попытаться положить конец террору. Я согласен с Дэвидом Джелернтером, так высказавшимся об этом решении: «Газеты столкнулись с трудным требованием. Сказать „да" значило пойти на поводу у терроризма, несмотря на то, что они знали — он в любом случае лжет. С другой стороны, ответ „да" мог остановить убийцу. Кроме того, существовала возможность, что кто-нибудь, прочитав газету, поймет, кто мог это написать. Именно так и случилось. Брат подозреваемого прочел публикацию, и это стало звонком. Я бы посоветовал им не публиковать. Хорошо, что они меня не спросили. Так мне кажется» (Gelernter, p. 120).

В книге этот отрывок дается так, что, лишь прочтя его целиком, вы узнаете, что его автор - Теодор Качинский (Унабомбер). Я не защищаю Качинского. За семнадцатилетнюю террористическую кампанию его бомбы лишили жизни троих и причинили ранения многим другим людям. Во время взрыва одной из его бомб был серьезно ранен мой друг Дэвид Джелернтер, один из самых выдающихся и проницательных специалистов по вычислительной технике нашего времени. Как и многие мои коллеги, я чувствовал, что легко могу стать следующей мишенью Унабомбера.

Действия Качинского отличались крайней жестокостью и, на мой взгляд, являлись преступным безумием. Он явный луддит, однако просто констатировать этот факт не значит опровергнуть его аргументы. Мне было трудно это признать, но я увидел нечто убедительное в рассуждениях, изложенных в вышеприведенном отрывке. И я почувствовал себя обязанным опровергнуть их.

В мрачных предвидениях Качинского описываются непреднамеренные последствия, широко известная проблема в разработке и использовании технологий, та самая, которая имеет очевидное отношение к закону Мерфи - «если что-то может пойти не так, то это обязательно случится». (На самом деле это закон Фи-нейгла, что само по себе уже доказывает, что Финейгл был прав.) Наше злоупотребление антибиотиками привело к тому, что может оказаться самой большой проблемой на данный момент, - к появлению устойчивых к антибиотикам и куда более опасных бактерий. То же самое случилось, когда были предприняты попытки уничтожить малярийных москитов при помощи ДДТ, что вынудило их развить устойчивость к этому препарату. Более того - малярийные паразиты приобрели гены, посредством которых наследуется ус-

« 184

тоичивость ко многим химическим веществам .

Причина многих подобных сюрпризов, по-видимому, ясна: дело в том, что речь идет о сложных системах, между частями которых существует взаимодействие и обратная связь. Любые изменения в подобной системе вызовут целый поток труднопредсказуемых последствий; это утверждение особенно справедливо Для деятельности человека.

¹⁸⁴ Garrett, р. 47-52, 414, 419, 452.

Blog

Дэвид Джерролд