Экспертно-аналитические технологии в управлении социально-бытовой сферой вузов

Вид материалаДокументы

Содержание


Методика экспертного опроса
1. Структуризация проблемы
2. Предъявление эксперту описаний объекта в привычном виде.
3. Проверка информации эксперта на непротиворечивость.
4. Эффективная стратегия опроса эксперта.
Иерархические модели оценки функционирования социально-бытовой сферы вузов
Факторы управления
Эффективность социально-бытовой сферы вуза
Подобный материал:

ЭКСПЕРТНО-АНАЛИТИЧЕСКИЕ ТЕХНОЛОГИИ В УПРАВЛЕНИИ СОЦИАЛЬНО-БЫТОВОЙ СФЕРОЙ ВУЗОВ

Фролова Н.А., Шуметов В.Г., тел. 41-98-06

Орел, Орловский государственный технический университет

История развития мировой цивилизации позволяет утверждать, что наиболее приоритетной ценностью, обеспечивающей социальный прогресс общества, является образование. Оно имеет практическую значимость во всех сферах жизнедеятельности человека — от усвоения образцов культуры до профессионального исполнения различных форм труда. Это диктует необходимость всеобщности и доступности образования для каждого человека. Утверждение о том, что современное российское общество переживает кризис, является сегодня общим местом для многих социологических исследований в том числе и по образовательной проблематике. Действительно, современное его состояние часто характеризуется как состояние аномии, которое сопровождается рассогласованием системы ценностей и норм во всех основных сферах жизнедеятельности людей, а также потерей четкой координации в деятельности институтов общества, что влечет за собой “расползание” социума.

Институт образования является одним из важнейших в системе общественного воспроизводства, от его состояния в немалой степени зависит качество будущих поколений любого общества. По данным социологических исследований, современная российская образовательная система не выполняет в полной мере ни одной из своих важнейших функций: не способствует духовному формированию личности, не обеспечивает возможности дальнейшего непрерывного образования, не осуществляет трансляцию и распространение культуры в обществе (для многих современных студентов ценность высшего образования определяется лишь получением диплома или формой спасения от военной службы).

Одной из характерных особенностей института образования является его определенная консервативность, связанная с относительно медленной сменой образовательных парадигм, а также специалистов, работающих в данной области. Это, с одной стороны, гарантирует некоторую устойчивость социальному институту образования в период трансформации. Но, с другой стороны, утрата прежних ориентиров и целей без приобретения новых, может привести (и приводит) к редукции понимания функций института образования (уходит или сильно трансформируется, к примеру, воспитательная компонента), а также — к “расползанию” системы образования в разных направлениях. Социальные изменения, безусловно, требуют изменения самого института образования сообразно тем перспективам, к которым стремится общество. Но именно эти перспективы сегодня не совсем ясны.

Перед российским обществом стоит серьезная задача создания и реализации концепции непрерывного развивающегося образования, учитывающей социокультурную специфику страны и соответствующей прогрессивным требованиям, предъявляемым к системам образования, таким как содействие развитию молодежи, ее интеграции в культуру общества, помощь в профессиональном становлении молодого поколения и выборе им адекватного ценностям общества образа жизни.

Анализ научных публикаций по проблемам социологии образования и науки позволяет сделать следующие выводы:

1) приоритетными направлениями социологических исследований в настоящее время являются изучение роли образования в формировании российского среднего класса, социальная диагностика жизненных планов студенческой молодежи, изучение ценностных ориентаций студенчества, совершенствование системы вузовского образования в условиях рыночных реформ;

2) осознана необходимость социологического сопровождения образовательного процесса в высшей школе;

3) большая группа педагогов и социологов сосредоточила внимание на изучении культурологической функции образования;

4) переход к новой парадигме общественного развития требует смены парадигмы управления образованием как социальным институтом;

5) ценность образования для современного человека — многомерное понятие. Социологические исследования, проведенные специалистами в различных регионах России (например, Краснодаре, Иркутске, Новосибирске, С.-Петербурге) показали, что в наибольшей мере ценность образования проявляется в прагматическом, социально-профессиональном, символическом и гедонистическом аспектах. О гедонистическом аспекте речь идет в том случае, когда для студентов участие в различного типа мероприятиях (КВН, дискотека и пр.) является наиболее важной частью их жизни в вузе, зачастую превышающей все остальное, включая учебу;

6) социально-бытовая сфера вузов как самостоятельный объект исследования встречается чрезвычайно редко, причем объект сужается до исследования досуговых форм организаций студенческой жизни. Важнейшей составной частью современной системы образования является социально-бытовая сфера вузов, включающая в себя различные структурные подразделения. Поэтому исследования в этой области имеют как теоретическую, так и практическую ценность.

Специфика социологического подхода к образованию заключается, во-первых, в том, что процесс образования рассматривается в контексте социального взаимодействия; во-вторых, система образования рассматривается как тип социальной организации с присущей ей специфической социальной структурой; в-третьих, образование — это важнейший социальный институт общества. Поэтому социально-бытовая сфера вузов выполняет ряд важнейших функций: культурологическую (трансляция и распространение ценностей культуры от поколения к поколению), функцию формирования ценностных ориентаций и установок у молодежи, профессионально-экономическую (создание условий, когда образовательный процесс ориентируется на социальный заказ).

Лабораторией социальных исследований ОрелГТУ в 2001-2002 гг. в рамках программы “Научное, научно-техническое, материально-техническое и информационное обеспечение системы образования”, раздел “Научно-методические вопросы социального обеспечения и жизнедеятельности студентов”, проводятся исследования по теме “Мониторинг и комплексная оценка состояния и эффективности функционирования социально-бытовой сферы вузов г. Орла (общежитий, медицинских учреждений, учреждений отдыха и досуга, спортивных баз, предприятий общественного питания)”, направленные на оценку состояния и эффективности функционирования их социально-бытовой сферы.

В целом данное исследование, основными задачами которого являются, во-первых, оценка степени удовлетворенности студентов оснащенностью и эффективностью функционирования социально-бытовой сферы вузов г. Орла, во-вторых, выявление наиболее распространенных интересов и потребностей студентов, связанных с использованием учреждений социально-бытовой сферы, носит социологический характер, и, в соответствии с этим, в методологическом плане предполагает проведение массовых опросов студентов с последующей обработкой их результатов. Проблемы, с которыми обычно встречается исследователь при организации подобных опросов, хорошо известны и описаны в социологической литературе. Менее распространены и, соответственно, менее описаны экспертные методы социологического исследования, предполагающие привлечение к анализу изучаемой проблемы опроса экспертов — специалистов в области социально-бытовой сферы (медиков, работников столовых, студенческих организаций и т.д.), а также психологов и социологов, хорошо знакомых с данной проблемой и имеющих представление о ее состоянии и тенденциях развития.

В лаборатории социальных технологий ОрелГТУ, совместно с Центром математической обработки и анализа данных при кафедре высшей математики, а также кафедрой математики и статистики Орловской региональной академии государственной службы (ОРАГС), на протяжении ряда лет проводятся работы методологического характера, направленные на разработку новых и адаптацию существующих экспертных методов исследования применительно к задачам практической социологии. Результаты частично опубликованы в социологическом журнале Российской академии наук [1], однако большая часть теоретических и практических исследований в этом направлении содержится в научных отчетах и материалах конференций, малодоступных широкому кругу читателей. Публикация коллективной монографии [2], содержащей небольшой по объему раздел, посвященный экспертной оценке приоритетов факторов адаптации студентов, также не является исчерпывающей.

Данная статья имеет целью ознакомление специалистов, занимающихся вопросами развития материально-технической базы и социальной сферы высших учебных заведений, с теоретическими основами развиваемого в Лаборатории социальных технологий подхода к экспертным методам социологического исследования, сопровождающем их инструментарием, а также перспективами практического применения к исследованию социального обеспечения и жизнедеятельности студентов на региональном уровне.

Методика экспертного опроса

Экспертный опрос специалистов является альтернативной методикой социологического исследования. Известны различные методики экспертного опроса: метод Дельфи, метод попарных сравнений и т.п. Наибольший интерес представляют методы экспертного опроса с целью принятия оптимального решения.

С точки зрения теории принятия решений, эксперт — это человек, в совершенстве владеющий умением решать повторяющиеся задачи. Знания эксперта имеют в основном подсознательный характер и не могут быть вербализованы. Процесс их накопления и достижения экспертом высокого профессионального мастерства занимает не менее 10 лет. За это время в долговременной памяти эксперта возникают структуры хранения специально организованной в иерархическом виде информации [3]. Важным в теории принятия решений является также тот факт, что модели системы на каком-либо уровне общности мало зависят от моделей, описывающих ту же систему на другом уровне. Отсюда следует принцип несводимости модели высшего иерархического уровня к комплексу моделей, полученных для низшего уровня общности. Иначе говоря, модели экспертного знания (с учетом интуиции эксперта) будут различаться для индивидуального, группового, регионального и федерального уровней. Общим для всех уровней будет, тем не менее, подход к решению экспертом задачи классификации — отнесения объектов к определенным классам решений.

С формальной точки зрения задачу классификации можно представить так. Имеются объекты, описываемые многими признаками. Необходимо отнести эти объекты к определенным классам решений. Наиболее важная характеристика таких задач — их повторяемость: люди решают эти задачи многократно, вырабатывая навыки наиболее успешного, эффективного решения. Эксперт — человек, способный не только “увидеть через заданную совокупность значений отдельных признаков целостный образ объекта” (по определению О.И. Ларичева), но и выполнить его отнесение к одному или нескольким классам решений, или, другими словами, дать прогноз поведения объекта.

Основные идеи метода экспертной классификации сводятся к следующему:

1. Структуризация проблемы. Чтобы передать знания компьютеру, нужен общий язык, характеризующий конкретную предметную область. Удобен язык признаков (или характеристик), описывающий объект исследования. Результатом этого этапа является совокупность признаков, необходимых для полной классификации объектов определенного типа, все возможные значения этих признаков, а также перечень классов решений.

2. Предъявление эксперту описаний объекта в привычном виде. Адекватным способом получения информации от эксперта является тот, при котором эксперт решает привычную для себя задачу. Описание проблемы вводится в компьютер. Комбинируя признаки, компьютер “предлагает” эксперту выполнить их сравнения; кроме того, эксперту предоставляется перечень классов решений, из которых он выбирает свой ответ.

3. Проверка информации эксперта на непротиворечивость. Не ошибающихся экспертов не бывает. Поэтому информацию эксперта следует подвергать проверке, основанной на той или иной концепции. У О.И. Ларичева это — гипотеза о характерности, предполагающая независимость суждений эксперта по отдельным признакам. Альтернативной концепцией может быть гипотеза транзитивности или согласованности суждений [4] и др. Алгоритм проверки должен быть реализован программно, причем желательным является дружественность интерфейса, “помогающего” эксперту самостоятельно устранять возможные ошибки [5].

4. Эффективная стратегия опроса эксперта. Здесь возможны два варианта. В первом стратегия опроса является относительно жестко заданной, соответствующей, например, предлагаемой самим же экспертом иерархии уровней решения задачи. Однако представляется более эффективным другой вариант, когда эксперт сам выбирает удобный для него порядок ответов на серии вопросов для того или иного уровня. Компьютерная система должна быть достаточно гибкой и соответствовать индивидуальным особенностям эксперта.

Подавляющее большинство методов принятия решений предназначено для решения задач, относящихся к этапу сравнения заданных альтернатив и выбора наилучшей из них. На этом этапе важно выбрать научно обоснованный метод и соответствующую ему информационную технологию, отвечающие сформулированным требованиям.

Наиболее известны методы, основанные на следующих теориях: 1) многокритериальная теория полезности MAUT; 2) теория попарного сравнения многокритериальных альтернатив ELECTRE; 3) теория аналитической иерархии (АНР — Analytical Hierarchy Process). В нашей работе использован метод анализа иерархий Т. Саати (в русскоязычной литературе сокращенно обозначаемый МАИ), назначение которого — получение объективного знания на основе субъективных суждений экспертов. Аксиоматика МАИ описана к книге Т. Саати [4]. Укажем основные принципы метода:
  1. любая сложная проблема может быть подвергнута декомпозиции;
  2. результат декомпозиции можно представить в виде иерархической системы наслаиваемых уровней, каждый из которых состоит из многих элементов (факторов);
  3. качественные сравнения экспертами попарной значимости элементов на любом уровне иерархии (субъективные суждения) могут быть преобразованы в количественные соотношения между ними, при этом они будут отражать объективную реальность;
  4. возможен синтез отношений между различными элементами и уровнями иерархии.

Наш опыт показал, что применение МАИ дает достаточно адекватные результаты при условии тщательного подбора экспертов, а также обеспечении благоприятных условий их работы. Пример использования МАИ при решении задач практической социологии приведен в статье [1]; в работах [5, 6] описан используемый инструментарий — система поддержки принятия решений (СППР) Expert Decide, созданная в ОрелГТУ совместно со специалистами ОРАГС и обеспечивающая надлежащую эффективность работы с экспертами. Данная СППР постоянно совершенствуется в направлении расширения ее возможностей; в настоящей работе использовали версию Expert Decide 2.2, специально разработанную для компьютерной поддержки МАИ с учетом специфики задач социологического исследования [6].

В классическом понимании методика анализа иерархии предполагает соблюдение принципа консенсуса при совместном обсуждении проблемы группой экспертов. Такой подход обоснован, если ставится цель практического плана. В данной работе предлагается иной, исследовательский подход. Поскольку мы не ставим задачу найти оптимальное решение, представляется целесообразным выявить точки зрения на обсуждаемую проблему (в данном случае определение путей эффективности функционирования социально-бытовой сферы высших учебных заведений) нескольких групп экспертов, работающих в различных отраслях управления и уже поэтому имеющих отличающиеся взгляды на проблему. Однако, этим группам экспертов предлагается одна и та же иерархия. Хотя при этом в определенной степени проблема формализуется (иерархия строится априорно, а не предлагается самими экспертами), при таком подходе более выпукло вырисовываются различия в суждениях специалистов разного профиля. Изложенный подход применялся ранее и показал свою эффективность [7, 8].

Существенно, что экспертные методики опроса, в отличие от массовых социологических исследований, значительно лучше “приспособлены” к проведению мониторинговых исследований. Кроме того, из опыта региональных научных организаций следует, что на региональном уровне необходимо использовать технологии, основанные преимущественно на экспертных знаниях [9].

Сравнение развиваемой нами системы Expert Decide и разработанной на ее основе технологии опроса с другими [10] показывает близость ее пользовательских характеристик к показателям лучших из них, при превосходстве в универсальности, гибкости настройки на решение сложных многокритериальных задач в условиях неопределенности. Отличительной чертой является творческая роль эксперта в процессе создания модели и ее адаптации к конкретной ситуации (месту работы эксперта, его социальному статусу и т.п.). Также имеется активная “обратная связь” между интервьюируемым экспертом и “интервьюером-компьютером”, что, собственно, и делает ее экспертной системой. Эта обратная связь проявляется, во-первых, в генерируемых системой Expert Decide диаграммах компонентов векторов приоритетов, которые выводятся в режиме реального времени и оцениваются экспертом по степени адекватности его субъективным представлениям об анализируемом (прогнозируемом) явлении, и во-вторых, в оценке меры согласованности парных сравнений с помощью расчета и визуализации показателей согласованности отдельных матриц и иерархии в целом.

Сказанное позволяет квалифицировать методику экспертного опроса с помощью системы Expert Decide как адаптивное личное интервью с помощью компьютера и визуализацией результатов в режиме реального времени [11]. Сопоставление с новейшими технологиями социологических исследований позволяет охарактеризовать ее как сочетание двух методов:
  • применяемого за рубежом, главным образом в США, метода CAPI (Computer-Assisted Personal Interviewing) — личного интервью с помощью компьютера;
  • подход аналитической иерархии АНР (Analytical Hierarchy Process) и соответствующий ему метод анализа иерархических структур.

Отметим, что, помимо экспертных знаний, получаемых в результате “наполнения” иерархических моделей в процессе опроса экспертов, мы получаем также возможность дальнейшего, более глубокого анализа данных, измеренных по количественной шкале, с помощью всего набора многомерных статистических методов (прежде всего, кластерного и факторного анализа), направленного на выработку адекватных управленческих решений. Это позволяет говорить о развиваемом направлении как экспертно-аналитической технологии в управлении социально-бытовой сферой вузов.

Иерархические модели оценки функционирования социально-бытовой сферы вузов

В данном разделе статьи представлен “веер” разработанных нами иерархических моделей функционирования социально-бытовой сферы вузов. Следует отметить, что хотя удивительная гибкость логических структур иерархических моделей позволяет ставить разнообразные задачи прогностического плана, практические приложения метода в социологических исследованиях до сих пор ограничивались весьма простыми иерархиями с двумя, максимум тремя разнокачественными уровнями. В то же время именно многоуровневые иерархии представляют наибольший интерес. Поднимаясь от “одномерных” двухуровневых иерархий типа “фокус — критерии” к более сложным “двумерным” трехуровневым иерархиям типа “фокус — критерии — альтернативы”, следует ожидать дальнейшего расширения их структурной сложности при переходе к трех- и более мерным задачам.

В четырехуровневой иерархии ко второму уровню “критерии” и нижнему “альтернативы” добавляется (между ними) уровень “акторы” — действующие лица, влияющие на ситуацию или развитие процесса. Как будет показано на конкретных примерах, такая иерархия позволяет выполнить значительно более глубокий анализ.

Построение подобных трехмерных иерархических моделей типа “фокус — критерии — акторы — альтернативы” при постановке задачи прогноза функционирования социально-бытовой сферы вузов — не предел. В развитие проблемы прогнозирования функционирования социально-бытовой сферы вузов можно предложить четырехмерную (пятиуровневую) иерархическую модель типа “фокус — критерии — акторы — цели акторов — альтернативы”, в которой к перечисленным ранее иерархическим уровням добавляется еще один, моделирующий цели основных акторов данного процесса. При добавлении сразу же после фокуса еще одного уровня “определяющие факторы” мы получаем пятимерную (шестиуровневую) иерархическую модель, еще более детализирующую анализируемую ситуацию.

Приведем апробированные нами иерархии, имеющие непосредственное отношение к обсуждаемой проблеме.

1. Наиболее простая иерархическая модель — двухуровневая иерархия “ Факторы управления”, на верхнем уровне которой находится фокус (цель) — “управление социально-бытовой сферой вуза”, а нижний уровень образуют обусловливающие его факторы: “престиж вуза”, “организационная структура”, “организационная культура”, “потребность в людских ресурсах”, “соблюдение принципа социальной справедливости”, “контроль”. Апробация данной иерархии позволила расставить приоритеты этих факторов следующим образом: организационная структура — 0,467; престиж вуза — 0,239; организационная культура — 0,178; соблюдение принципа социальной справедливости — 0,054; потребность в людских ресурсах — 0,031; контроль — 0,031.

2. Следующая трехуровневая иерархическая модель “ Эффективность социально-бытовой сферы вуза” предназначена для оценки эффективности ее функционирования. Это — полная иерархия, фокус которой совпадает с ее названием, на втором уровне находятся основные подотрасли социально-бытовой сферы вуза (медицина, культура, спорт, питание, базы отдыха), а на третьем — альтернативные мотивационные, организационные и материальные факторы развития вуза (потребности, факторы управления, материально-технические ресурсы). Приведем пример апробации по приоритетам подотраслей социально-бытовой сферы вуза: питание — 0,361; базы отдыха — 0,301; медицина и спорт — по 0,150; культура — 0,039. Интегрально (по всем подотраслям с учетом их значимости) распределение приоритетов элементов нижнего уровня иерархии выглядит так: на первом месте — материальные факторы развития вуза с весом 0,400; на втором — факторы управления (0,344) и на третьем — потребности (вес 0,256).

3. Смысл и порядок следования уровней в многоуровневых иерархиях — не догма и определяются желанием социолога вычленить те или иные стороны анализируемого процесса. Так, в апробированной нами четырехмерной (пятиуровневой) иерархии приняты следующие уровни: “фокус — определяющие факторы — акторы — цели акторов — альтернативы” (представлена на рисунке — копии экрана программы Expert Decide). Это, как и предыдущая — полная иерархия, фокус которой также совпадает с ее названием, но на втором уровне находятся не основные подотрасли социально-бытовой сферы вуза (медицина, культура, спорт, питание, базы отдыха) — они составляют нижний иерархический уровень, а факторы, определяющие функционирование вуза (экономические, социальные, политические). На третьем уровне иерархии — акторы: студенты, преподаватели, администрация вуза, местные и центральные власти. Четвертый уровень содержит мотивационные, организационные и материальные факторы развития вуза (потребности, факторы управления, материально-технические ресурсы). На нижнем уровне находятся подотрасли социально-бытовой сферы вуза.

На приведенном рисунке приоритеты, полученные при апробации иерархии, указаны непосредственно под наименованиями соответствующих элементов. Так, для второго уровня имеем: вес экономических факторов — 0,595, политических — 0,276 и социальных — 0,128. Ранжирование приоритетов акторов выявило следующее: наиболее приоритетны центральные и местные власти (0,267 и 0,258 соответственно), затем “идет” администрация вуза с приоритетом 0,234. Приоритеты преподавателей и студентов близки и замыкают перечень акторов (0,125 и 0,116 соответственно).



Рисунок. Пятиуровневая иерархия “Эффективность социально-бытовой сферы вуза” (копия экрана программы Expert Decide; числа в прямоугольниках — приоритеты соответствующих элементов, имеющие условный характер)

С помощью метода анализа иерархий можно формализовать и такой важный этап экспертного исследования, как прогнозирование тенденций развития социально-бытовой сферы вузов. Результаты работы экспертов ОрелГТУ показали, что приоритет сценария развития будущего “Ориентация на студента” составил 50,5% против приоритета 11,4% для сценария “Статус-кво” (сохранения существующего положения). “Ориентация на преподавателя” - 38,1%, что обусловлено необходимостью развития баз отдыха (приоритет – 0,446), медицины (0,349) и питания (0,359). Для студенчества приоритетными являются равитие таких секторов социально-бытовой сферы, как “спорт” (0,740), “культура” (0,648), “питание” (0,517).

Следует отметить, что анализ полученных результатов носит предварительный характер. Результаты опроса представляют особый интерес именно тогда, когда по единым (или схожим) иерархиям будут получены данные по различным вузам или же по мнению различных экспертов. Только в случае сопоставления этих данных, выявления общего и особенного в знаниях экспертов, “объективизированных” с помощью предлагаемой экспертной системы, можно говорить о реализации заявленной в данной работе экспертно-аналитической технологии в управлении социально-бытовой сферой вузов.

Методика экспертного опроса в виде полуформализованного интервью использовалась для анализа ресурсного потенциала кандидатов в Государственную Думу – 99 от Орловской области, для выявления внутрирегиональных различий губернаторских выборов в регионах Центра России (Тульской, Ивановской, Брянской областей); для изучения факторов, определяющих уровень социально-экономической и профессиональной адаптации студентов вузов Центрального региона (2001 г.).

Данная методика может быть использована для проведения социологического мониторинга эффективного функционирования социально-бытовой сферы учебных заведений различных регионов России, для изучения поведенческих рефлексий различных социальных групп, для разработки рекомендаций по управлению структурами и подразделениями образовательных институтов.

ЛИТЕРАТУРА
  1. Уварова В.И., Шуметов В.Г. Использование метода анализа иерархий. — СОЦИС. — 2001. — №3.
  2. Уварова В.И., Шуметов В.Г., Афонина Т.Н., Иваненко Т.А. Социально-психологическая и профессиональная адаптация студентов вузов Центрального региона России (по материалам социологического исследования) / Под ред. В.И. Уваровой. — Орел: ОрелГАУ, 2001.
  3. Ларичев О.И. Теория и методы принятия решений, а также Хроника событий в Волшебных Странах: Учебник. — М.: Логос, 2000.
  4. Саати Т. Принятие решений. Метод анализа иерархий. — М.: Радио и связь, 1993.
  5. Шуметов В.Г., Кузнецов А.И. Алгоритмы и пользовательский интерфейс системы поддержки принятия решений Expert Decide. — В кн.: Интеллектуальные системы: Труды Четвертого межд. симпозиума. — М.: МГТУ, 2000.
  6. Кузнецов А.И. Шуметов В.Г. Expert Decide для Windows 95, 98, NT, 2000, Ме. Версия 2.2. Руководство пользователя. — Орел: ОРАГС, 2001.
  7. Шуметов В.Г., Васютин Ю.С. Применение методов экспертной подготовки управленческих решений при формировании инновационной среды региона. — В кн.: Инновационные процессы в образовании, науке и экономике России на пороге XXI века. Тез. докл. межд. н.-практ. конф., ч.II. — Оренбург: Оренбургск. гос. ун-т, 1998.
  8. Шуметов В.Г., Орлов Г.М. Метод анализа иерархий в аналитической деятельности. — В кн.: IX международная конференция-выставка “Информационные технологии в образовании”: Сб. трудов участников конференции. Ч.III. — М.: МИФИ, 1999.
  9. Горяченко В.И., Кибалов Е.Б. Принципы построения организационной структуры управления Сибирским федеральным округом: опыт экспертного оценивания. — Регион: экономика и социология. — 2001. — №4.
  10. Яковлев И.Г. Информационно-аналитические технологии в сфере политического анализа. — ПОЛИС. — 1998. — №3.
  11. Шуметов В.Г. Прогнозирование социального поведения на региональном уровне: экспертные методы и системы. — Орел: ОРАГС, 2001.

Источник: cience_r/prog/educmain/frolova/frolova.php