А. В. Турчин Ответственные редакторы

Вид материала

Реферат

Содержание Реальность, как оказалось, зачастую преподносит результаты, худшие, чем самый наихудший случай»

Подобный материал:

• Урок №15. Тема: «Текстовые редакторы», 75.16kb.
• Нло как фактор глобального риска Алексей Турчин, 7525.63kb.
• Ббк 67. 99(2)9 К82 Ответственные редакторы, 7322.98kb.
• А. А. Жилкин Ответственные редакторы, 3418.4kb.
• Положение молодежи и реализация государственной молодежной политики в Российской Федерации:, 2576.32kb.
• Органы, ответственные за выполнение положений Регионального соглашения Автономной Республики, 609.76kb.
• Текстовые редакторы это программы для создания и редактирования текстовых документов, 263.8kb.
• Турчин В. Ф. Феномен науки: кибернетический подход к эволюции. Изд. 2-е, 20.53kb.
• Валентин турчин инерция страха социализм и тоталитаризм, 1299.53kb.
• Ответственные за организацию и проведение егэ-2010, 602.5kb.

3.68. Ошибка, связанная с тем, что вместе того, чтобы исследовать истинность или ложность некого сообщения о риске, человек стремится доказать эту идею как можно большему числу людей.

Одни идеи проще доказывать, чем другие. Это приводит к сдвигу в оценке вероятностей. См. подробнее (Юдковски 2007,1)

3.69. Склонность людей предлагать «простые» и «очевидные» решения в сложных ситуациях – не подумав.

А затем упорствовать, защищая их и подбирая под них аргументацию. Человеку очень трудно «передумать». Закон Мёрфи: «Любая сложная проблема имеет простое, очевидное и неправильное решение». См. подробнее (Юдковски 2007,1)

3.70. Общественная дискуссия о рисках разных исследований может привести к тому, что учёные будут скрывать возможные риски, чтобы их проекты не закрыли.

«И если власти вводят закон, по которому даже мельчайший риск существованию человечества достаточен для того, чтобы закрыть проект; или если становится нормой де-факто политики, что ни одно возможное вычисление не может перевесить груз однажды высказанного предположения, то тогда ни один учёный не рискнёт больше высказывать предположения». (Юдковски 2007,1)

3.71. Ошибка, связанная с неправильной корреляции силы и безопасности.

Эмоционально нам кажется, что технологии делятся на хорошие, то есть сильные и безопасные, и плохие – то есть слабые и опасные. Однако, на самом деле, чем сильнее некое орудие, - чем более оно способно влиять на мир, - тем оно опаснее, то есть тем больше способов направить его на цели разрушения. «Анализ, основанный на недостаточной информации, склонен оценивать технологии эмоционально, в результате чего информация о преимуществах имеет тенденцию смягчать воспринимаемый риск». (Юдковски 2007,1) Понятно так же, что новые технологии сильнее старых технологий – иначе бы не было коммерческого смысла их создавать.

3.72. Преждевременные инвестиции.

Если бы в середине XIX века люди бы поняли, что в XX веке им угрожает атомное оружие, и на предотвращение этого риска были бы выделены миллионы, то нет сомнений, что эти деньги были бы потрачены не по назначению, и у будущих поколений выработалась бы аллергия на такие проекты. Возможный пример: по некоторым данным, СССР в 80-е годы получил дезинформацию о том, что США во всю разрабатывают беспилотные летательные аппараты, и развернул свою огромную программу, в результате которой возникли такие аппараты как «Пчела» - автоматические самолёты-разведчики весом около тонны, огромной стоимости и малой надёжности. В результате российские военные разочаровались в дронах именно к тому моменту, когда в США была принята программа их реального создания. Другой пример: до 1939 года было абсурдно бороться против атомного оружия, а после – уже поздно.

3.73. Склонность людей путать свои ожидания того, как оно будет в наиболее вероятном случае, и того, как оно будет в наилучшем случае.

« Реальность, как оказалось, зачастую преподносит результаты, худшие, чем самый наихудший случай» (Юдковски 2007,1). Юдковски описывает в своей статье эксперимент со студентами, где их просили оценить наиболее вероятное и наихудшее время сдачи дипломной работы. В результате среднее время сдачи дипломной работы оказалось хуже, чем наихудший случай.

3.74.Апатия прохожего.

Глобальные риски не являются чей-то личной ответственностью, и соблазнительно рассуждать в том смысле, что раз никто ничего не делает в связи с этим, то почему именно я должен? Более того, это состояние возникает бессознательно, просто как рефлекс подражания группе. Типичный пример: когда человек лежит на тротуаре и мимо идёт толпа, никто не помогает ему. Но если один человек на тропинке в лесу увидит лежащего человека, он, скорее всего, ему поможет. См. подробнее (Юдковски 2007,1).

3.75. Потребность в завершении.

Концепция когнитивной психологии, обозначающая стремление человека как можно скорее найти ответ на беспокоящий вопрос («need for closure» – (Kruglanski 1989)). Это приводит к тому, что человек предпочитает быстрое и неверное решение более долгому поиску правильного ответа. И хотя мы не можем искать правильную стратегию работы с глобальными рисками бесконечно долго – мы ограничены во времени! – нам стоит хорошо подумать перед тем, как придти к каким-то выводам.

3.76. Влияние авторитета и социальное давление группы.

Этот вопрос подробно рассмотрен в книге «Человек и ситуация». В частности, хорошо известны эксперименты Милграма, где испытуемых заставляли бить всё большим током других испытуемых, чтобы те «учились», и испытуемые доходили до смертельно опасного напряжения в 400 вольт, несмотря на то, что «жертвы» (на самом деле подсадные утки) умоляли их прекратить. При этом, хотя большинство людей уверено, что они не стали бы это делать, в реальных опытах это делали 66% испытуемых. В качестве причин такого поведение было обнаружено влияние авторитета, удалённость жертвы и воздействие аналогичного поведения группы. Очевидно, что те же факторы могут действовать на нас, когда мы оцениваем риск, связанный с некоторым фактором или технологией. Если потенциальные жертвы её находятся от нас далеко во времени и в пространстве, если рядом с нами высокоавторитетная личность высказывается в пользу этой технологии, а также, если мы окружены группой людей, придерживающегося противоположного мнения, всё это окажет влияние на наш выбор. Всё это проявляется в динамике научного процесса.