< Предыдущая		Оглавление		Следующая >

ГЛАВА 5. Социально-этические проблемы информатики

5.1. Проблема искусственного интеллекта

Размышления над природой информатики часто приводят к сравнению компьютера с мозгом человека. В этой связи на протяжении многих десятилетий внимание исследователей привлекает статья А. Тьюринга "Вычислительные машины и разум". Тьюринг был убежден, что прогресс информатики будет способствовать ее неуклонному росту. Он поставил цель определить степень эффективности имитации компьютером интеллекта человека, для чего предложил тест, реализующийся посредством имитационной игры. Опрашивающий поочередно задает вопросы в безличной форме, например в письменном виде, находящимся в изолированном помещении компьютеру и человеку. За избранный промежуток времени эксперт должен идентифицировать компьютер и человека. Если ему этого не удается сделать, то он вынужден признать тождественность обоих: компьютер, выдержавший тест, подобен человеку, с которым его сравнивали. Тьюринг был убежден, что к 2000 г. опрашивающий - индивид среднего уровня развития - будет в состоянии в течение пяти минут отличить компьютер от человека с вероятностью не более 70%. Тьюринг стремился поставить вопрос максимально научно, избегая расхожих представлений как о компьютерах, так и о мышлении человека. Тем не менее термин "думающие машины" он использовал очень часто.

Мнение эксперта

Сэр Роджер Пенроуз, известный английский ученый, по сути, повторяет аргументацию А. Тьюринга: "Мне кажутся достаточно обоснованными доводы в пользу того, что успешно пройденный тест Тьюринга есть указание на присутствие мысли, интеллекта, понимания или сознания. В самом деле, на чем еще могут основываться наши убеждения в присутствии этих качеств у других людей, кроме как на беседе с ними?"

А. Тьюринг отлично сознавал, что придуманный им тест уже по замыслу призван указать на известную тождественность компьютера и человека. Он справедливо полагал, что его идея вызовет десятки возражений, и, по крайней мере, девять из них он предвосхитил, всякий раз показывая, что они не опровергают схожесть компьютера и человека.

1. Математический аргумент: математическим теориям присущи определенные ограничения, то же распространяется и на вычислительные машины. Отсюда делается вывод, что машинам присущи ограничения, не характерные для мышления людей. Но, во-первых, этот вывод принимается без доказательств. Во-вторых, люди также совершают ошибки, но при этом они продолжают считать себя совершенными существами. В-третьих, всегда нужно помнить, что компьютеры по ряду моментов даже превосходят людей.

2. Аргумент от сознания: в отличие от людей компьютеры не обладают сознанием, прежде всего чувствами. Тьюринг отмечал, что вопрос о природе сознания не прояснен должным образом. Особенно важно, что при условии правильных ответов машины на поставленные ей вопросы мы не сможем приписать чувства исключительно человеку.

3. Аргумент об отсутствии у компьютера многих способностей человека, в частности способности быть умным, находчивым, красивым, дружелюбным, инициативным, иметь чувство юмора, отличать добро от зла, совершать ошибки, любить, наслаждаться едой, извлекать уроки из жизненного опыта, правильно использовать слова, думать о себе самом, реализовывать различные линии поведения, создавать нечто принципиально новое. На это возражение Тьюринг отвечает так же, как и на аргумент от сознания: любые смыслы сосредоточены в ответах. О чувствах и эмоциях людей следует судить по ответам людей, а они могут быть такими же, как у компьютеров.

4. Аргумент леди Лавлейс: машины делают лишь то, что люди предписывают им, а не нечто принципиально новое. Тьюринг полагал, что речь идет о позиции, согласно которой недооценивается значимость вывода следствий из причин и общих принципов.

5. Аргумент о непрерывности нервной системы: имеется в виду, что она не имитируется цифровым (дискретным) компьютером. Тьюринг отмечал, что дискретность состояний компьютера не исключает представления любых разновидностей непрерывности.

6. Аргумент о неформальном характере поведения людей: считается, что такое поведение невозможно имитировать посредством компьютера. Тьюринг не был согласен с этим мнением. Попытка объяснить поведение людей сопряжена с выяснением правил их поведения, а они подвластны имитации.

7. Аргумент о сверхчувственном восприятии: о явлениях телепатии, ясновидения, предвидения и психокинеза. Тьюринг признавал наличие этих явлений, но полагал, что и их компьютерное представление вполне возможно.

Таким образом, в оценке возможностей информатики А. Тьюринг являлся завзятым оптимистом. Для одного из основателей информатики такая позиция вполне естественна и лишена нарочитости.

Слабый и сильный AI. Важной вехой на пути развития понятия искусственного интеллекта - AI (сокр. от англ. Artificial intelligence) стала статья Дж. Сёрла (1990), в которой он ввел представление о слабом и сильном искусственном интеллекте1. Согласно тезису сильного AI должным образом запрограммированный компьютер обладает сознанием. В рамках тезиса о слабом AI компьютер является всего лишь вспомогательным устройством, позволяющим наряду с другими объектами изучать также и мозг. Сёрл принимает тезис о слабом AI, но решительно возражает против положения о сильном AI. Суть его возражений состоит в том, что компьютер манипулирует формальными символами, однако у него нет интенциональности, направленности на объект внимания; можно сказать, что он обладает синтаксисом, но не семантикой. Компьютер не интерпретирует и не мыслит.

"Китайская комната" Джона Сёрла

Желая быть максимально убедительным, Сёрл придумал мысленный эксперимент, который назвал "китайская комната".

Англичанин, находящийся в изолированной комнате, имеет в своем распоряжении книги на китайском и английском языках, в том числе словари. Китайского языка англичанин не знает, но именно на нем от него требуют ответов в письменном виде на поставленные вопросы. Испытуемый вроде бы справляется с этой задачей, но это впечатление обманчивое. По сути, он, пользуясь словарями как некоторыми программами, механически переводит действительно понимаемые им английские выражения на язык китайских иероглифов. Испытуемый действует подобно компьютеру: он манипулирует иероглифами, но не понимает их смысла.

Критики интерпретации Сёрла полагают, что он выдал желаемое за действительное. Перевод с английского на китайский язык не может осуществляться бездумно. Если бы Сёрл рассмотрел в единстве всю систему, т.е. человека, книги как программу и базу данных, то ему пришлось бы обратиться к концепту сознания. Возможно, испытуемому понадобятся годы обучения, прежде чем он сможет ответить на поставленные вопросы. К тому же следует учесть, что вопросы стимулируют мозг отвечающего. Наконец, заслуживает внимания и качество перевода. Сторонник позиции Дж. Сёрла сказал бы, что компьютерные переводы крайне неудачны, - аргумент, свидетельствующий об отсутствии у процессора сознания.

Интересную позицию занимают братья Дрейфусы1. Они доказывают, что посредством компьютеров можно моделировать работу мозга, но до создания сознания дело не доходит. Дрейфусы полагают, что в классический период своей деятельности творцы А1 бессознательно ориентировались на идеалы рационализма западной философии, разработанные Платоном, Декартом, Лейбницем, Кантом, Гуссерлем и молодым Витгенштейном. Согласно этим идеалам, наука начинается с теории, которая выступает как совокупность абстрактных бесконтекстных принципов, не зависящих от конкретных ситуаций. Отсюда следует вывод, что любая область формализуема, т.е. может быть представлена в виде символьной репрезентации. Исходя из этого, компьютерщики придают самодовлеющее значение программам, но при этом упускают из вида, что идеалы рационализма оказались действенными только в естествознании.

Согласно Дрейфусам, М. Хайдеггер и Л. Витгенштейн показали, что "мы разумно ведем себя в этом мире, не имея никакой теории мира. <...> Если правы Хайдеггер и Витгенштейн, люди гораздо холистичнее нейронных сетей. Интеллект должен быть мотивирован целями и задачами организма, в том числе и теми целями, которые организм черпает из наличной культуры. Если минимальная единица анализа - целостный организм, сцепленный с некоторым целостным миром культуры, то нейронным сетям, как и символьно программированным компьютерам, предстоит пройти еще долгий путь".

Думается, Дрейфусы недооценивают достоинства теоретического подхода. Ссылки на авторитет Л. Витгенштейна и М. Хайдеггера не доказывают, что в гуманитарной и обыденной области теоретический подход не состоятелен. Оба философа были плохо осведомлены относительно успехов гуманитарных и тем более компьютерных наук, которые отнюдь не перечеркнули идеалы теоретического познания. Также ошибочно Дрейфусы настаивают на бесконтекстности теорий: хорошая теория всегда ситуативна, т.е. учитывает некий контекст.

Мышление как управление понятиями. Рассмотренные выше тесты А. Тьюринга и Дж. Сёрла показывают, что наше понимание мышления все еще не выдерживает критики. Для ответа на вопрос: "Что именно представляет собой мышление?" необходимо опереться на достаточно авторитетную инстанцию. Желательно при этом учесть обширный и по-настоящему актуальный опыт человечества. Но где найти желаемую перспективу? Эмпирически настроенные исследователи склонны возлагать большие надежды на непосредственное изучение мозга. Их аргументация проста: мыслит мозг, следовательно, изучив его, мы получаем доступ к мышлению как процессу. Однако такому пониманию мышления явно недостает теоретической утонченности. Думается, что искомым авторитетом является современная наука как трансдисциплинарное целое. Тогда ответ на сформулированный выше вопрос предполагает установление того общего, что выражает сокровенное не одной, а каждой из наук. Все теории сотканы из концептов, которые определенным образом связываются друг с другом посредством переходов. Здесь необходим переход между понятиями, который в образцовом виде представлен в науках. Мышление - это управление понятиями. Назовем это определение УП-дефиницией. Разумеется, против такого определения могут быть выдвинуты возражения. Рассмотрим те из них, которые представляются наиболее принципиальными.

Возможная аргументация против УП-дефиниции

1. УП-дефиниция неучитывает статуса ненаучного знания. Это впечатление обманчивое: не только научное, но и любое другое знание имеет концептуальный характер. Даже в сказках присутствуют концепты, например "Иванушка-дурачок".

2. Наука сама имеет проблемный характер, поэтому она неспособна продуцировать правильное определение мышления. Наука действительно насыщена проблемами, но, во-первых, они энергично изучаются в рамках метанауки, а во-вторых, проблемность определения не указывает на его неприемлемость. Важно, чтобы оно обеспечивало прогресс знания.

3. УП-дефиниция не учитывает различие рационального и чувственного. Убеждение в том, что мышление имеет дело с мыслями, но не с чувствами, включая эмоции, явно устарело. Содержание чувств и эмоций невозможно осознать без концептов. Остается лишь удивляться широкому распространению в науке дуализма "мысли - чувства" и, соответственно, "мышление - чувствование". Чувства - это разновидности понятий.

4. УП-дефиниция не учитывает ментального характера мышления. В науке XX в. произошла языковая революция. Выяснилось, что концептуальный строй ментальноети, языка, а также объектов, равно как и соответствующих им процессов, - один и тот же. Это означает, что неправомерно и далее прописывать мышление исключительно ментальности, хотя ментальное и языковое мышление отличаются друг от друга лишь своими носителями.

5. УП-дефиниция допускает приписывание атрибута мышления объектам, например камням. Это не так. Согласно УП-дефиниции мыслит только определенный субъект, а им является тот, кто инициирует и проводит концептуальную транедукцию. На данном этапе анализа с уверенностью можно констатировать лишь то, что мыслит человек. Вопрос о мышлении компьютера пока остается открытым.

Убедившись в основательности УП-дефиниции, продолжим анализ, учитывая сетевую структуру науки как единого целого. Мышления как такового не существует, оно специфицируется в каждой из наук. Математика, физика, информатика, экономика - это различные типы мышления. Изучение той или иной науки является вместе с тем и постижением некоторого типа мышления, реализуемого соответствующими учеными. При этом выясняются многочисленные подробности.

До тех пор пока специалисты в области информатики не покидают родную почву, о мышлении компьютера нет и речи: всем привычную реализацию программы едва ли кто назовет мышлением. Ситуация меняется после вроде бы вполне приемлемой и безобидной операции - сравнения компьютера непосредственно с человеком. Это может проводиться трояким образом.

Во-первых, вполне резонно сравнивать человека с компьютером в информатике. Человек придумывает образцы вычислений, парадигмы программирования и соответствующие им языки, пишет программы, реализует их посредством компьютеров, наблюдает электронные образы, вносит коррективы во все этапы концептуальной трансдукции. На фоне активности человека компьютер оказывается всего лишь средством, воплощением его замыслов в технической форме. Компьютер при таком типе сравнения очевидно не является ровней человеку.

Во-вторых, можно сравнить человека с компьютером, имея в виду интернаучные связи. В таком случае компьютер служит средством интернаучного моделирования. Здесь вновь нет оснований приписывать компьютеру атрибут мышления.

В-третьих, компьютер сравнивается с человеком без каких-либо ссылок на науки. Правомерность такого сравнения не ставили под вопрос любители различных тестов, в частности А. Тьюринг и Дж. Сёрл. В действительности же оно просто несостоятельно. Осмысление тестирования невозможно без наук. Но как только исследователь обращается к ним, он сразу же встречается с первыми двумя случаями, в рамках которых компьютер является весьма своеобразным и необычайно эффективным техническим устройством. Однако он остается всего лишь средством человека, которое необходимо ему для либо реализации программ, либо для интернаучного программирования. Таким образом, компьютер в отличие от человека не мыслит, а это означает, что он не осуществляет управления понятиями.

Решающая ошибка Дж. Сёрла состояла в следующем: рассматривая обитателя "китайской комнаты", он полагал, что человек может обойтись без управления понятиями. Но тот, кто переводит с одного языка на другой, осуществляет сложные этапы концептуальной трансдукции. Вопреки Сёрлу человек в принципе не в состоянии быть тождественным компьютеру: даже в "китайской комнате" он остается мыслящим существом. Согласно аргументации Сёрла, компьютер подобен переставшему мыслить человеку, но таких людей не бывает. Дж. Сёрл не доказал отсутствие у компьютера мышления. Соответствующее доказательство получается лишь при учете устройства информатики как науки.

А. Тьюринг совершил ту же метанаучную ошибку, что и Дж. Сёрл: он отказался от детального анализа концептуального устройства информатики и компьютерного моделирования. Все контраргументы он опровергает ссылкой на всесилие науки, которая для него олицетворяется компьютером. При этом Тьюринг постоянно использует уловку логического бихевиоризма, основателем которого считается Л. Витгенштейн. В рамках логического бихевиоризма постулируется, что речевые акты содержат в себе все богатство ментальности человека, поэтому ментальность может быть исключена из анализа. Еще одна уловка состоит в использовании операционалитского аргумента. В таком случае сознание редуцируется не к речевым актам, а к поведению, например, роботов.

Итак, с позиций УП-дефиниции вопрос о мышлении компьютера получает достаточно очевидное разрешение: компьютер не мыслит. В таком случае не приходится обоснованно говорить не только о тезисе сильного, но и слабого интеллекта. Ведь латиняне под словом понимали мыслительную способность человека, которой компьютеры не обладают даже в ослабленном виде.

Искусственный интеллект.

Существует весьма разветвленное поле исследований, именуемое искусственным, интеллектом (ИИ). Так нередко называют науку об автоматизации поведения, мышления и речевой деятельности человека. В таком случае определение "искусственный интеллект" является всего лишь условным собирательным термином, который используется для обозначения совокупности научных практик. Чтобы более или менее компетентно судить об ИИ следует рассмотреть соответствующие области исследований. Приведем их список с короткими комментариями. Разумеется, этот список может быть продолжен.

1. Имитация игр, в частности игры в шахматы. Не осталось шахматистов, не испытавших горечь поражения в противостоянии с компьютером. Машина, сравнивая между собой показатели эффективности очередных ходов, выбирает из них наилучшее продолжение. Это возможно, поскольку известна соответствующая оценочная функция. В ее определении фиксируется опыт шахматистов, выработанные ими ценности. Разумеется, шахматист играет не с ЭВМ, а с тем коллективом авторов, которые создали программу для компьютера.

2. Автоматические рассуждения и доказательство теорем. Первоначально компьютеры применялись для оказания помощи ученым в их сложных и нередко утомительных расчетах. Позднее они стали использоваться для имитации дедуктивных доказательств, разработки многочисленных методов доказательства теорем, например таких, как методы резолюций и натурального вывода, а также создания особых формальных систем, в частности логики предикатов первого порядка, теории типов, неклассических логик. Программы автоматических рассуждений и доказательства теорем применяются для решения все большего числа проблем формальной логики, математики и информатики, проверки программного обеспечения и аппаратных средств. Однако все попытки вывести универсальные схемы доказательств закончились неудачами. Рассуждения людей всегда имеют определенную целевую направленность, которая меняется от случая к случаю. Соответственно приходится менять и способы имитации рассуждений человека.

3. Экспертные системы. Их особенность состоит в имитации в программном виде знаний экспертов. Например, в широко известной программе MYCIN используются знания специалистов медицины для диагностики и лечения спинального менингита и бактериальных инфекций крови. Хорошо известно, что теория непременно должна быть специфицирована к области исследования. Лучше других это удается сделать экспертам. Но компьютерному моделированию поддаются не все тонкости теории, а лишь совокупность общих рассуждений. В результате экспертным системам часто недостает гибкости, к тому же их трудно тестировать.

4. Понимание естественных языков. Речь в первую очередь идет о создании программ, позволяющих строить предложения и переводить с одного языка на другой. Добиться успеха в этом деле чрезвычайно трудно в силу многофункциональности языка.

5. Робототехника. Робот должен планировать и корректировать свои действия.

6. Создание самообучающихся программ. Исходная программа перестраивается в результате анализа изменяющейся среды или объектов деятельности. Однако признаки перестройки задаются программистами.

7. Нейронные сети. Имитируются структуры нейронов и механизмы работы человеческого мозга. Первоначально многие исследователи полагали, что это решающим образом приближает их к разгадке тайны человеческого мышления. Но впоследствии выяснилось, что в лучшем случае достоянием ученых оказывается некоторый новый способ интернаучного моделирования.

8. Распознание образов, т.е. способность выделять в исходных данных повторения, схожести, регулярности и закономерности. В информатике ставится задача добиться автоматического распознавания и упорядочения образов, в частности языковых и визуальных.

Рассмотрев области исследования, традиционно относимые к ИИ, разумно задаться вопросом о наличии у них общих черт. Ведь при их отсутствии термин "искусственный интеллект" придется считать всего лишь экономным обозначением совокупности теорий. Указанные общие черты пытались выделить неоднократно, но без решающего успеха. Вот лишь некоторые из них:

o способность обработки любых символов, а не только цифр;

o имитация систем, для которых характерно ценностно-целевое поведение;

o внимание к неалгоритмическим процессам;

o имитация принятия решений на основе нечеткой информации;

o освоение методами информатики максимально специфического знания.

Думается, что указанные черты не являются подлинно общими, ибо они рассеяны по различным областям теории искусственного интеллекта. В конечном счете стремление дать содержательную характеристику ИИ как особой науки всегда связано с определенной интерпретацией разума человека, но именно это вызывает очень большие сомнения. Дело в том, что предпринимается некритическая попытка поместить разрозненные сведения о мышлении человека под единый для них концептуальный колпак. К сожалению, при этом не анализируется действительный статус тех наук, с которыми информатика находится в интернаучных отношениях. Такого рода отношения явно нуждаются в тщательной классификации, но этого пока не сделано. В результате ИИ выступает как конгломерат концепций, которые знаменуют собой актуальнейшие для информатики поисковые направления.

Выводы

1. Авторы, настаивающие на мыслительных способностях компьютеров, не дают достаточно строгого определения мышления.

2. Мышление - это управление понятиями.

3. Понятиями управляет человек, при этом компьютер является техническим средством.

< Предыдущая		Оглавление		Следующая >