А. В. Турчин Ответственные редакторы

Вид материала

Реферат

Содержание 3.6. Навык ведения споров вреден.

Подобный материал:

• Урок №15. Тема: «Текстовые редакторы», 75.16kb.
• Нло как фактор глобального риска Алексей Турчин, 7525.63kb.
• Ббк 67. 99(2)9 К82 Ответственные редакторы, 7322.98kb.
• А. А. Жилкин Ответственные редакторы, 3418.4kb.
• Положение молодежи и реализация государственной молодежной политики в Российской Федерации:, 2576.32kb.
• Органы, ответственные за выполнение положений Регионального соглашения Автономной Республики, 609.76kb.
• Текстовые редакторы это программы для создания и редактирования текстовых документов, 263.8kb.
• Турчин В. Ф. Феномен науки: кибернетический подход к эволюции. Изд. 2-е, 20.53kb.
• Валентин турчин инерция страха социализм и тоталитаризм, 1299.53kb.
• Ответственные за организацию и проведение егэ-2010, 602.5kb.

3.4 Возрастные особенности восприятия глобальных рисков.

Более молодые люди склонны недооценивать глобальные риски, поскольку они в большей мере биологически нацелены на завоевание новых пространств, а не на безопасность. Более пожилые люди склонны придавать достаточно большое значение безопасности, но им труднее принять возможность принципиально новых технологий.

3.5. Споры не рождают истину о глобальных рисках.

Дискуссии между людьми обычно приводят к поляризации мнений. То есть человек, который имел в начале две гипотезы, которым приписывал равные вероятности, редуцирует свою позицию до одной гипотезы, противоположной гипотезе оппонента. Таким образом, он сужает своё представление о возможном будущем. Подробнее см. в (Юдковский 2007).

3.6. Навык ведения споров вреден.

Как я уже говорил в предисловии, Юдковски подчёркивает, что навык ведения споров вреден, так как позволяет переспорить любого оппонента, не вникая по существу в его позицию. Особенно опасно применение всего этого списка ошибок для того, чтобы обвинять в них оппонента. Это может привести к интеллектуальной слепоте.

3.7. Желание смерти.

Фрейд высказывал идею о Танатосе, стремлении к смерти, которое есть у каждого. Подобные идеи высказывались и другими учёными. Это желание может неосознанно влиять на человека, заставляя его недооценивать или переоценивать риски или стремиться к ним. Любой, кто отвергает идею жить 1000 лет, испытывает определённое стремление к смерти. Это может бессознательно подталкивать человеку выбрать стратегии, ведущие к глобальным рискам.

3.8. Косность мышления, связанная с естественным отбором наиболее устойчивых систем мировоззрения.

Ч.Доукинс, автор книги «Эгоистичный ген», рассматривает каждую отдельную идею, циркулирующую в обществе, как репликатор, способный к разной скорости самораспространения и называет такие объекты мемам (meme). Чтобы защитится от них, ум людей вынужден вырабатывать своеобразную «иммунную систему», одним из наиболее эффективных вариантов которой является система «отбрасывай всё новое». История полна примерками того, как очевидно полезные новые идеи отвергались без видимых причин в течение длительного периода. Например, от предложения использовать закись азота для анестезии в хирургии в конце 18 века до начала реального применения в 1840-е годы прошло почти 50 лет, то же самое касается и идеи о необходимости мыть руки перед операциями. Однако в наш век перемен нужно очень гибкое и свободное мышление, чтобы учесть и принять всерьёз все варианты глобальных рисков.

3.9. Обнаружение ошибок в рассуждении о возможности некой конкретной катастрофы не является способом укрепления безопасности.

Есть два вида рассуждений – доказательства безопасности некой системы и доказательства опасности её. Эти рассуждения неравноценны логически – в первом случае речь идёт обо всех возможных случаях, тогда как во втором – хотя бы об одном случае. Чтобы опровергнуть всеобщее утверждение, достаточно одного контрпримера. Однако опровержение одного контрпримера не почти не прибавляет истинности всеобщему утверждению.

Например: для того, чтобы доказать опасность некого самолёта, достаточно указать на то, что в некоторых экспериментах металл обшивки проявил склонность к эффекту «усталости металла». Однако для того, чтобы доказать безопасность самолёта, совершенно недостаточно обнаружить некорректность в проведении этих экспериментов по измерению усталости металла. Вместо этого необходимо доказать, что выбранный материал действительно выдержит данный режим нагрузок.

Иначе говоря, если направить все интеллектуальные усилия на опровержение различных катастрофических сценариев, не уделяя равного внимания их возможностям и ошибкам в системе безопасности – то суммарная безопасность системы понизится. Все перечисленные правила должны применяться для поиска ошибок в рассуждениях о том, что некая катастрофа невозможна, - тогда это способствует безопасности. В проектах сложных технических систем всегда есть «технические обоснования безопасности», где описывается «максимальная проектная авария» и способы её локализации. Реальным доказательством безопасности является строгое доказательством того, что нечто не может случиться ни при каких обстоятельствах плюс – практический опыт использования данного устройства во всех возможных режимах в течение длительного времени.

С точки зрения науки мы должны доказывать, что что-то существует, а с точки зрения безопасности - доказывать, что нечто не существует. Обязанность доказательства безопасности лежит на конструкторах самолёта, а не на пассажирах. Поэтому требование разработчиков к посторонним экспертам: «докажите, что данный риск реален» - наносит ущерб общей безопасности.

3.10. Ни одно из направлений исследований в новых технологиях не может обеспечивать свою безопасность само по себе.

Потому что каждая система стремится к самосохранению, а разговоры об опасности новых технологий могут привести к закрытию новых проектов. Например, сайт «Коммерческая биотехнология» перепечатывает в основном те статьи, которые опровергают угрозы биотерроризма, хотя потом сам же печатает на них опровержения. Или тоже самое в случае с реакторами. Сторонники АЭС будут тратит свои усилия не на поиск уязвимостей в безопасности станций, а на споры с экологами и попытки доказать, что существующая конструкция безопасна, - это может доходить до попыток заткнуть оппонентов.