Рекомендации по профилактике нарушений правил Файл с результатами статистического анализа

Вид материалаКонкурс

Содержание


Рекомендации по профилактике нарушений правил
Выявление подозреваемых на наличие нарушений классов и школ.
Работа с подозреваемыми в нарушениях.
Вероятная причина
Вероятная причина
Вероятная причина
Вероятные причины
Возможные профилактические меры
О внешнем контроле.
Об объёме профилактических мероприятий.
Как проводилась статистическая обработка
M — генеральное среднее, m
Подобный материал:
В школьные оргкомитеты игры конкурса

«Русский медвежонок – языкознание для всех»

О честности игры

Уважаемые коллеги

Оргкомитет, как и в прошлом году, провёл статистический анализ результатов, показанных участниками игры-конкурса «Русский медвежонок – 2010», на предмет выявления классов и школ, подозреваемых в нарушении правил игры. Анализ показал, что в борьбе с нечестной игрой в некоторых школах достигнуты реальные результаты, но она остается актуальной.

Результаты анализа по вашему ОУ направляются вам в пакете документов «Русского медвежонка – 2011». Рекомендации по их использованию и профилактике нечестной игры остаются прежними. Советуем сравнить результаты статистического анализа за 2009 и 2010 годы и особое внимание обратить на классы, попавшие в число подозрительных дважды (при сравнении учтите, что 2 класс 2009 года — это 3 класс в 2010 году и т.д.).

При продолжении нарушений школы или классы, ученики которых из года в год показывают нереально высокие результаты, могут быть исключены из регионального и всероссийского рейтингов с отменой награждения их учащихся дипломами в региональном и общероссийском зачете, а список таких школ и классов может быть обнародован в Интернете. Просим учесть это при организации и проведении конкурса в школе.

Рекомендации по профилактике нарушений правил

Файл с результатами статистического анализа представляет собой таблицу формата Excel, в которой каждой школе отведена отдельная строка. Первые три колонки таблицы содержат сведения о школе: её игровой код, территориальную единицу и название. В колонках, заголовки которых промаркированы голубым цветом, приведена численность участников «РМ-2010» из этой школы: отдельно по каждому классу и общая. В колонках, промаркированных жёлтым, по каждому классу указан средний балл участников из данного класса этой школы. Последние 11 колонок таблицы (с серой маркировкой) содержат сведения о числе дисквалифицированных участников по школе в целом и каждому классу.

Главная часть таблицы — колонки, промаркированные розовым (идут сразу после сведений о школе). Здесь находятся «коэффициенты маловероятности» (далее — КМ) значений среднего балла по школе в целом и каждому её классу в отдельности. Они получены в результате обработки данных по школе с помощью аппарата математической статистики (подробности процедуры обработки для знакомых с этим аппаратом приведены в приложении к этому письму). Чем сильнее средний балл по школе или классу превышает соответствующий средний балл всех участников конкурса, тем меньше вероятность такого события и, соответственно, больше его КМ. По техническим причинам там, где КМ больше 53 (что соответствует вероятности, меньшей 0,00000000000001%), вместо значений коэффициента в таблице записано «Х».

В качестве ориентира сообщаем средние баллы всех участников игры

Класс

2

3

4

5

6

7

8

9

10

11

Ср. балл

45

52

49,3

50,8

41,1

45,6

40,6

43

45,6

47,4

Выявление подозреваемых на наличие нарушений классов и школ. В предварительный список классов и школ, где, возможно, были допущены нарушения правил игры, можно включить, например, классы, у которых КМ не меньше 15, и школы с КМ не меньше 201 (вы можете выбрать и другие границы), а также те школы и классы, результаты которых вызывают у вас подозрение, несмотря на меньшие КМ, и те школы, где большое число или высокий процент дисквалифицированных участников.2

Но далеко не во всех классах и школах, вошедших в такой список, правила действительно нарушались. Дело в том, что при обработке данных не было возможности учесть различия в уровне подготовки школьников из различных школ. Поэтому КМ рассчитаны так, как будто средний уровень учащихся всех школ одинаков. Если бы это действительно было так, высокий КМ класса или школы однозначно указывал бы на значительную вероятность нарушения правил конкурса. На самом же деле высокий КМ оказался как у реальных нарушителей, так и у сильных школ и классов, ученики которых без всяких нарушений показывают результаты значительно выше средних. Поэтому, составив предварительный список, необходимо затем исключить из него школы и классы, у которых превышение среднего балла над соответствующим средним баллом всех участников — закономерное следствие более высокого уровня учащихся. Верный признак таких сильных школ — равномерное, на 5-15 баллов, превышение средних баллов по классам над общерегиональными средними баллами при отсутствии «выбросов», где средние баллы по классам на 25-30 и более баллов превышают общерегиональные.

Каких-то общих правил оценки того, что закономерно, а что — нет, мы предложить не можем.

Работа с подозреваемыми в нарушениях. Подчеркнём, что речь идёт не о наказании провинившихся учителей или школ, а о минимально необходимых мерах, предупреждающих повторение нарушений. Выбор таких мер — непростая и неформальная задача. Основные из них, на наш взгляд, таковы:
  • разъяснительная работа;
  • отстранение учителей, склонных к нарушению правил, от участия в проведении конкурса или перемещение их на позиции, где нарушать правила им не будет резона (например, дежурство в чужом классе); дежурство в начальных классах учителей средних и старших классов;
  • введение в той или иной форме внешнего контроля за проведением конкурса в школе.

Во всех случаях надо напоминать, что заблаговременное знакомство учителей с заданиями конкурса запрещено, а там, где нет никаких сомнений в наличии нарушений, предупреждать, что если ситуация не исправится, то результаты класса (школы) в следующем конкурсе могут быть официально поставлены под подозрение (с вытекающим из этого отсутствием призов в общем и региональном зачётах).

Иногда достаточно разговора с добросовестно заблуждающимися «нарушителями». Так, в одной из школ области обнаружились аномально высокие результаты по одной из параллелей начальных классов. В беседе с дежурившими в классах этой параллели учителями выяснилось, что они, не осознав разницы между конкурсом и школьным уроком, в начале игры с выражением прочитали участникам вслух конкурсные задания. Когда им объяснили, что это — нарушение правил игры, учителя искренне раскаялись, обещали, что подобное не повторится, и региональный оргкомитет счёл вопрос исчерпанным. А вот, например, соседней школе с нереально высокими результатами, учителя и администрация которой отказались обсуждать причины произошедшего, региональный оргкомитет разрешил участвовать в следующем конкурсе только под независимым внешним контролем.

Беседы с учителями и администрацией подозреваемых в нарушениях классов и школ облегчают выбор профилактических мер, смягчают возможные конфликтные ситуации, и мы советуем использовать все возможности для их проведения. Рассмотрим несколько взятых из реальной практики примеров (предлагаемые нами в них решения — советы, а не директивы!).

Пример 1. Средние баллы в школе по всем параллелям близки к соответствующим средним для всех участников игры (КМ от 0 до 3), но более 10% участников из семи параллелей этой школы дисквалифицированы.

Вероятная причина. Дежурные по кабинетам при проведении не подсказывали участникам, но и не следили за дисциплиной.

Возможные профилактические меры. Требование тщательнее подбирать дежурных и соответствующим образом инструктировать их перед началом конкурса.

Пример 2. В школе КМ 2 класса равен 43 (при среднем балле выше 80), КМ остальных классов — от 0 до 1.

Вероятная причина. Дежурные по кабинетам, где писали работу второклассники, помогали участникам.

Возможные профилактические меры. Требование сообщить региональному оргкомитету ФИО указанных дежурных и не допускать их к дежурству во время следующего конкурса.

Пример 3. Средние баллы в начальных классах школы аномально высоки. В остальных классах КМ не превосходит 4. Средний балл по 4 классам значительно выше среднего балла по 5 классам3.

Вероятная причина. В средних и старших классах играли в целом честно, учителя начальных классов помогали ученикам.

Возможные профилактические меры. Учителя начальных классов идут дежурить в средние и старшие классы (и наоборот), или в начальных классах вводится внешний контроль за проведением конкурса.

Пример 4. Высокие КМ в большинстве параллелей ничем не замечательной в других отношениях школы.

Вероятные причины. Массовые нарушения правил игры в школе. Возможно, учителя стараются искусственно завысить результаты своих учеников, потому что администрация школы использует эти результаты для оценки работы учителей.

Возможные профилактические меры. Проведение конкурса в школе возможно только под внешним контролем. Очень желательна беседа с ответственным за проведение конкурса в школе.

Ещё раз подчеркнём, что ваши решения в аналогичных ситуациях вполне могут отличаться от предлагаемых нами, в частности потому, что вы во многих случаях сможете учесть имеющуюся у вас дополнительную информацию.

О внешнем контроле. Нарушения правил игры, искусственно повышающие результаты участников, происходят в основном в трёх формах: подсказки во время игры; заблаговременное знакомство учителей и/или участников с заданиями конкурса или ответами на них; заполнение бланков ответов учителями вместо участников. Жёсткий внешний контроль призван устранить возможности для всех этих видов нарушений и применяется, когда есть веские основания считать, что массовые нарушения правил в школе совершаются при участии или попустительстве лиц, ответственных за проведение конкурса. Он включает в себя следующие моменты:

1) Доставка в школу заданий конкурса в день его проведения по поручению регионального оргкомитета независимым от школы лицом («представителем оргкомитета»).

2) Вскрытие конверта с заданиями представителем оргкомитета непосредственно перед началом конкурса.

3) Контроль представителя оргкомитета за проведением конкурса и обработкой заполненных бланков ответов, которая производится немедленно после окончания конкурса, после чего бланки передаются представителю оргкомитета.

Более мягкая форма внешнего контроля — отправка в школу одного или нескольких наблюдателей, контролирующих ситуацию в кабинетах и обработку заполненных бланков. Такими наблюдателями (а в отдельных случаях — и представителями оргкомитета) могут быть, в частности, учителя других школ, студенты и т.д.

Об объёме профилактических мероприятий. Понятно, что описанная выше профилактическая работа, особенно введение внешнего контроля — дело достаточно хлопотное, а порой и затратное. Поэтому в положении о конкурсе сказано, что региональный оргкомитет принимает меры для устранения причин нарушений правил в пределах своих возможностей.

Оргкомитет

Приложение

Как проводилась статистическая обработка

Это приложение адресовано читателю, владеющему основами математической статистики.

В каждой параллели был вычислен средний балл и стандартное отклонение. Как и ожидалось, распределение баллов оказалось близко к нормальному (гауссову). Поэтому все указанные участники считались генеральной совокупностью, нормально распределенной с указанными параметрами. Каждая параллель школы считалась случайной выборкой из соответствующей генеральной совокупности. На этой основе для каждой параллели каждой школы вычислялась вероятность, что участники наберут средний балл не меньше набранного ими. По такому же принципу, но чуть сложнее, вычислялись вероятности для каждой школы.

Формула вычисления вероятности для параллели одной школы:

,

где M — генеральное среднее, m — выборочное среднее, , s — генеральное стандартное отклонение, n — количество человек в выборке.

Вычисление вероятности для всей школы происходит по той же формуле, но

, , .

Здесь — соответственно количество, выборочное среднее, генеральное среднее, генеральное стандартное отклонение в k-ом классе. Суммирование ведется по всем классам.

Для большей наглядности полученные вероятности p в таблице заменены «коэффициентами маловероятности», равными –log2p. В результате менее вероятные, а, следовательно, вызывающие большее недоверие события получали больший коэффициент. Вероятности, которые настолько малы, что Еxcel не может отличить их от нуля, заменялись символом Х. Заметим, что обнаружилась некоторая корреляция коэффициента и процента дисквалифицированных, что косвенно подтверждает адекватность метода.


1 Чтобы их было проще найти, предварительно упорядочьте список по колонке AA.

2 В файлах, высланных в некоторые регионы, мы отметили жёлтым фоном средние баллы классов, вызвавшие серьёзные подозрения у нас. К сожалению, обработать таким образом все файлы у нас не было возможности.

3 Обратите внимание: это верный признак того, что в 4 классе конкурс проводился с нарушениями.