Тема 13: Метод экспертной оценки в ходе КСИ Эксперты - компетентные лица, имеющие глубокие знания о предмете или объекте исследования.
Как сформировать группу экспертов? В качестве критериев целесообразно использовать три признака: род занятий, стаж работы и уровень квалификации по интересующему социолога профилю. При необходимости учитываются также уровень и характер образования, возраст и др.
Центральный среди всех критериев отбора экспертов - их компетентность. Для ее определения применяются два метода: самооценка экспертов и коллективная оценка авторитетности экспертов.
Наиболее простая и удобная форма самооценки - совокупный индекс, рассчитанный на основании оценки экспертами своих знаний, опыта и способностей по ранговой шкале с позициями «высокий», «средний», «низкий». Первой позиции приписывается числовое значение 1, второй – 0,5, третьей - 0.В таком случае совокупный индекс - коэффициент уровня компетентности эксперта вычисляется по формуле: k = k1+k2+k3 / 3, где
k1 - числовое значение самооценки экспертом уровня своих теоретических знаний,
k2 - числовое значение самооценки практического опыта,
k3 - числовое значение самооценки способности к прогнозу.
Коэффициент уровня компетентности может изменяться от 1 (полная компетентность) до 0 (полная некомпетентность).
Обычно в группу экспертов принято включать тех, у кого индекс компетентности не менее среднего (0,5) и выше (до 1).
При отборе экспертов методом самооценки возникает проблема ее завышения. Однако, как отмечают специалисты, «опыт многочисленных экспертиз и у нас и за рубежом показывает, что группы с высокой самооценкой, как правило, ошибаются в своих суждениях при проведении экспертизы меньше других».
Метод коллективной оценки применяется для формирования группы экспертов в том случае, когда они знают друг друга как специалисты. Чаще всего это ученые, творческие деятели, известные политики, экономисты.
Рассмотрим метод коллективной оценки на примере формирования группы экспертов.
Предположим, у нас есть список из десяти экспертов. Мы просим каждого из них выделить пять наиболее компетентных коллег. На основании ответов построим таблицу 1, обозначив в ней номерами от 1 до 10в первом столбце тех, кого выбирают, а в первой строке тех, кто выбирает. В клетках таблицы число 1обозначает выбор, тире -отсутствие выбора, 0 -указывает на то, что никто сам себя не назвал.
Таблица 1 - Взаимные оценки экспертов
Кого назвали
| Кто назвал
| Сколько раз назвали
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| —
| —
|
|
|
| —
|
| —
|
|
|
|
|
|
|
| —
|
|
|
|
|
|
|
| —
|
|
| —
|
| —
| —
| —
| —
| —
|
|
|
|
| —
|
| —
| —
|
|
| —
|
|
|
|
|
|
|
|
|
|
| —
|
| —
|
|
| —
| —
|
| —
|
|
|
|
|
| —
|
|
|
|
|
|
|
|
|
| —
|
|
|
|
| —
| —
| —
|
| —
| —
| —
|
| —
|
|
|
| —
|
|
| —
|
|
|
| —
|
| —
|
|
|
| —
| —
| —
| —
| —
| —
|
|
|
|
| Итого
|
|
|
|
|
|
|
|
|
|
|
|
В последнем столбце таблицы приводится сумма «голосов», которую получил каждый эксперт. Эти числа принимаются в качестве веса мнений о соответствующем эксперте. Потом ими заменяются единицы в таблице (по столбцам), в результате чего получится ранжированный ряд оценок уровня компетентности всех десяти экспертов (см. табл. 2).
Таким образом, если мы хотим сформировать группу из пяти наиболее компетентных специалистов, то, соотнеся оценки в последнем столбце с номерами экспертов в первом столбце, должны будем зачислить в нее экспертов под номерами 7, 5,2,9,4.
Таблица 2 - Уточненные взаимные оценки экспертов
Кого назвали
| Кто назвал
| Суммарная
оценка
| Ранговая
оценка
компетентности
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| —
| —
| —
|
|
|
| —
|
| —
|
|
|
|
|
| —
|
|
| —
|
|
|
|
|
|
|
|
| —
|
| —
| —
|
| —
| —
| —
| —
| —
|
|
|
|
|
| —
| —
| —
| —
|
|
| —
|
|
|
|
|
|
|
|
| —
|
|
| —
|
| —
|
|
|
| —
| —
|
| —
|
| —
|
|
|
| —
|
|
|
|
|
|
|
|
|
| —
| —
|
|
|
|
| В
| —
| —
|
|
| —
|
| —
| —
| —
|
|
|
|
| —
|
|
| —
|
|
|
| —
| —
| —
|
|
|
|
| —
| —
| —
| —
| —
| —
|
|
| —
|
|
|
Опросы компетентных лиц именуются экспертными, а результаты опросов - экспертными оценками.
Можно выделить четыре основные функции этого метода в социологическом исследовании: оценка состояния; оценка причин явления или процесса; прогноз тенденций развития социальных процессов; выработка форм и методов решения социальной проблемы.
Прогноз.В прикладной социологии разработан ряд приемов опроса экспертов, используемых для получения прогностической оценки. При этом уместно заметить, что некоторые технические и методические приемы, широко используемые в массовых опросах, теряют свое значение при опросе такой специфической аудитории, как эксперты. Поскольку они должны быть полностью осведомлены о задачах, которые решаются в ходе исследования с их помощью, нет никакой нужды применять в экспертной анкете косвенные и контрольные вопросы, тесты или какие-либо другие приемы, имеющие своей целью выявить «скрытые» позиции респондента. Более того, их использование может нанести заметный ущерб качеству экспертной оценки. Эксперт в полном смысле этого слова - активный участник социологического исследования. Попытка скрыть от него цель исследования, превратив тем самым в пассивный источник информации, чревата потерей его доверия к организаторам.
Основной инструментарий экспертных опросов - анкета или бланк-интервью, разработанные по специальной программе.
Программа прогнозного опроса экспертов, в отличие от массового опроса, не столь детализована и носит преимущественно концептуальный характер. В ней однозначно формулируется подлежащее прогнозу явление, предусматриваются в виде гипотез возможные варианты его исхода. В тех случаях, когда однозначно сформулировать их причины сложно, в анкете эксперта лучше всего использовать открытые вопросы с полной свободой выбора формы ответа.
Одна из наиболее простых форм экспертного прогноза - обмен мнениями. Он предполагает единовременное присутствие всех экспертов за «круглым столом», где и выявляется доминирующая позиция по дискутируемому вопросу, сформулированному исследователем.
Группа экспертов для дискуссии подбирается по определенному правилу. Она должна включать несколько подгрупп: «генераторов идей», активно выдвигающих всевозможные предположения о прогнозируемом социальном явлении или процессе; «регуляторов», следящих за тем, чтобы полемика не приобретала хаотический характер, проходила в рамках объективного обсуждения; «селекторов», оценивающих и отбирающих наиболее значимые идеи, выдвигаемые «генераторами идей»; «стимуляторов», путем формулировки все новых и новых предположений стимулирующих «генераторов идей к выработке оценок и, наконец, «президента круглого стола», удерживающего внимание экспертов на центральной теме дискуссии. В качестве последнего может выступить сам организатор исследования. Оптимальное число экспертов за «круглым столом» - 10-15 человек.
Обсуждение проблемы может происходить в несколько туров, пока не удастся выработать некоторую более или менее согласованную оценку.
«Дельфийская техника» - выработка согласованных мнений путем многократного опроса одних и тех же экспертов. После первого опроса и обобщения результатов его итоги сообщаются участникам экспертной группы. Затем проводится повторный опрос, в ходе которого эксперты либо подтверждают свою точку зрения, высказанную на предыдущем этапе, либо изменяют оценку в соответствии с мнением большинства. Так повторяется три-четыре раза. В ходе подобной процедуры вырабатывается согласованная оценка, при этом исследователь не должен игнорировать мнение тех, кто после неоднократных опросов остался на своей позиции.
|