А. В. Турчин Ответственные редакторы
| Вид материала | Реферат |
- Урок №15. Тема: «Текстовые редакторы», 75.16kb.
- Нло как фактор глобального риска Алексей Турчин, 7525.63kb.
- Ббк 67. 99(2)9 К82 Ответственные редакторы, 7322.98kb.
- А. А. Жилкин Ответственные редакторы, 3418.4kb.
- Положение молодежи и реализация государственной молодежной политики в Российской Федерации:, 2576.32kb.
- Органы, ответственные за выполнение положений Регионального соглашения Автономной Республики, 609.76kb.
- Текстовые редакторы это программы для создания и редактирования текстовых документов, 263.8kb.
- Турчин В. Ф. Феномен науки: кибернетический подход к эволюции. Изд. 2-е, 20.53kb.
- Валентин турчин инерция страха социализм и тоталитаризм, 1299.53kb.
- Ответственные за организацию и проведение егэ-2010, 602.5kb.
5.5. Прогресс в области программного обеспечения отсутствует.
Неверно – алгоритмы разложения чисел на множители улучшаются быстрее, чем аппаратное обеспечение. Есть прогресс и в других областях, но он менее измерим. В конце концов, прогресс аппаратуры – это тоже прогресс нашего понимания того, как сделать микросхемы меньше.
5.6. Никто в мире не занимается такой ерундой как ИИ.
Неверно – известно несколько фирм и людей, которые активно работают над созданием универсального ИИ – Numenta, Novamenta, SIAI.
5.7. ИИ – это разные приложения, вроде распознания образов.
Подмена тезисов. Под Ии имеется в виду именно Искусственный Интеллект. От того, что кто-то продаёт свои разработки под брендом ИИ, хотя они на самом деле им не являются, не следует, что ИИ невозможен. В англоязычной литературе распространён термин – GAI – General AI – Универсальный искусственный интеллект, который предназначен для устранения этой двусмысленности.
5.8. Антропоморфизм.
Бессознательно мы очеловечиваем ИИ множеством разных способов, и это формирует наши ожидания.
5.9. Достаточно отключить ИИ от питания, чтобы его остановить.
Базируется на предположении, что программист Ии будет знать, когда процесс пошёл неправильно – очевидно, неверном. Второе предположение – о локальности ИИ. Третье - о том, что ему не придёт в голову защитить своё питание. Четвёртое – что программист не может быть в сговоре с ИИ.
5.10. Даже распространившись по Интернету, Ии никак не сможет воздействовать на внешний мир.
Неверно – в Интернете можно зарабатывать деньги и заказывать любые действия во внешнем мире. Кроме того, возможен договор с людьми, шантаж и прямое управление механизмами.
5.11. У ИИ не может быть собственных желаний, поэтому он никогда не станет причинять человеку вред.
Чтобы ИИ заработал, перед ним поставят некие задачи. В процессе выполнения их он может реализовывать те или иные подцели. Эти подцели могут быть очень опасны, если на них несформулировано правильных ограничений.
5.12. ИИ будет осваивать космос, оставив Землю человеку.
Это хорошее пожелание, но в нём уже есть горечь капитуляции. Нет никаких оснований думать, что ИИ обязан это на самом деле это делать.
5.13. Любой ИИ является интеллектом, поэтому он обладает целью Y (подставить нужное), и это благо.
Интеллект – это инструмент, который может иметь произвольную цель. Люди пользуются мощнейшим интеллектом, чтобы достигать примитивных целей, которые свойственны альфа-самцу обезьяньего стада – топить конкурентов, добиваться расположения самок, доставать пропитание – и ради этого они пишут стихи, доказывают теоремы, плетут заговоры.
5.14. Современные компьютеры очень ограничены, поэтому Ии будет только в отдалённом будущем – через десятки лет.
Поскольку мы не знаем, что такое ИИ, мы не знаем, что именно должно быть изобретено, чтобы его создать, а потому не можем высказывать точные временные прогнозы.
5.15. Прогресс в понимании работы ума идёт очень медленно. Поэтому ИИ будет работать очень медленно.
Юдковски опровергает это примером разницы между временем разработки ядерного оружия и скоростью процессов в бомбе.
5.16. Человек способен делать X (подставить нужное), что никогда не сможет делать ИИ, и поэтому Ии не представляет никакой угрозы.
«X» может быть в разных интерпретациях творческое озарение, интуиция, быстрое распознание образом, переживание чувств, осознание, любовь. Однако:
- Мы не знаем, чего может или не может ИИ, пока не сделаем его.
- ИИ может быть опасен, даже если он не может Х. Например, он может выигрывать у нас в шахматы, на бирже, или в любую другую жизненно важную для нас игру.
- если есть некая задача, которую может решать только человек, ИИ может нанять или подчинить себе людей для её решения – так современное государство нанимает учёных, и даёт каждому фрагмент задачи по разработке, скажем, атомной бомбы.
5.17. ИИ невозможен, потому что он мыслит алгоритмически, а человек неалгоритмически.
Требование алгоритмичности при создании ИИ не является необходимым. Генетические алгоритмы, квантовые компьютеры, вживление нейронов в чипы и рандомизированные методы делают требование алгоритмичности условным. Вопрос о том, как именно мыслит человек, пока не открыт. недавно достигли того, что компьютер стал играть лучше человека в покер (техасский халдом - а ведь именно покер считается той игрой, в которой особенно важна интуиция) и лучше человека играть на бирже (на моделях). Это означает, что реальные люди будут терять деньги, сталкиваясь с компьютерами на бирже или на он-лайн турнирах. Я думаю, что для них вопрос о том, обладает ли компьютер сознанием или является калькулятором не так важен, как то, сколько они потеряли. если компьютер научится распознавать образы внешнего мира, то он сможет также эффективно побеждать в спорах, преследовать вас в лесу, стрелять по целям, делать чертежи.
Человеку приятно думать, что он лучше компьютера, потому что у него есть интуиция. Однако раз так, то надо относиться с подозрением к этой идее, так как она может быть обусловлена эмоциями. Мы не можем строить свою систему безопасности на утверждении, которое нам приятно. а вдруг мы недооцениваем силу алгоритмов? Вдруг есть такой алгоритм, который работает мощнее нашей интуиции?