«Мы можем поставить перед собой цель нового уровня и другого масштаба – сделать российскую школу одной из лучших в мире» Владимир Путин
Последнее в уходящем году заседание Госсовета было посвящено теме, неизменно вызывающей бурные дискуссии в обществе – качеству школьного образования. Президент России Владимир Путин сформулировал амбициозную задачу: в ближайшие 10 лет российская система образования должна стать одной из лучших в мире.
Сделать для ее решения предстоит немало: построить и оснастить новые школы, внедрить в образовательный процесс передовые информационные технологии, создать новую систему мотивации и профессионального роста учителей. Фундаментом же всех будущих преобразований, направленных на повышение качества обучения, должно стать создание комплексной и объективной системы оценки знаний учащихся на всех уровнях образования. Как пояснил руководитель Рособрнадзора Сергей Кравцов, речь идет о стимулировании развития образования и формировании единого образовательного пространства через различные оценочные процедуры. «Нам необходимо выстроить полноценную систему, но для этого нужны результаты по всем ступеням образования, чтобы выявить и закрыть проблемные места», - сказал Сергей Кравцов.
Всероссийские проверочные работы, национальные исследования оценки качества образования, исследования компетенции учителей, и, конечно, результаты объективного ЕГЭ - все это вместе составит общероссийскую систему оценки качества образования. «Главная ее функция – не карать, а помогать развиваться, как ученикам, так и учителям. Это касается не только деятельности учебных заведений, но и исследования профессиональных компетенций педагогов», - отметил руководитель Рособрнадзора. Для проведения исследований всех уровней образования и обобщения их результатов ведомство уже создало Федеральный институт оценки качества образования (ФИОКО). Собранные им данные будут использоваться для совершенствования образовательных стандартов и повышения квалификации учителей. Кроме того, институт займется обобщением результатов всероссийских проверочных работ, которые будут проводить школы по итогам каждого учебного года. В этом году успешно опробованы механизмы проведения Всероссийских проверочных работ, Национальных исследований качества образования. Теперь важно, чтобы выводы по результатам этих исследований послужили основой до выработки системы поддержки слабых школ, созданию мотивации для расширения деятельности институтов повышения квалификации учителей.
«Не смотря на то, что нами уже сделаны уверенные шаги в обеспечении объективности системы оценки качества образования, по итогам Госсовета для себя мы получили дополнительные ориентиры», - сказал Сергей Кравцов.
По его словам, ориентация на объективность станет для Рособрнадзора ключевой задачей, а основной целью - получение реальных данных о качестве и результатах обучения для принятия дальнейших решений по совершенствованию системы образования. Федеральная служба по надзору в сфере образования и науки постоянно развивает различные инструменты объективной оценки качества образования и предпринимает шаги для усиления контроля за объективностью итоговой аттестации учащихся.
Так, ГИА в 9-х классах уже в следующем году пройдет под выборочным контролем общественных наблюдателей. Об этом недавно заявил руководитель ведомства Сергей Кравцов, выступая на конференции «Национальные исследования качества образования: итоги и перспективы».
По его словам, в школах необходимо объективно проводить все экзаменационные процедуры, а не только ЕГЭ, организуемый на федеральном уровне.
«Зачастую мы видим, что экзамены без федерального контроля проходят необъективно. Когда школьник получает по ГИА-9 хорошую оценку, не имея соответствующих знаний, а затем переходит в старшую школу, у него возникают проблемы при сдаче ЕГЭ», - отметил глава Рособрнадзора. Он добавил, что отсутствие должного контроля за экзаменами в девятых классах «дестимулирует школьников учиться», и только объективное проведение экзамена заставит школьников готовиться к нему ответственно.
Глава Рособрнадзора напомнил, что в текущем учебном году в рамках ГИА-9 школьникам предстоит сдавать не только обязательные русский язык и математику, но и два предмета по выбору. В Рособрнадзоре отмечают, что исследования качества образования свидетельствуют об ухудшении в ряде регионов успеваемости школьников после пятого класса. Наиболее проблемной зоной является основная школа, 6-8 классы, поэтому на работе с ней и повышении квалификации учителей основной школы необходимо сделать основной акцент.
Для выявления имеющихся пробелов в знаниях учащихся Рособрнадзор с 2014 года начал проводить национальные исследования качества образования (НИКО). В следующем году такие исследования пройдут по истории, обществознанию и иностранным языкам. Также, ведомством начата работа по исследованию профессиональных компетенций учителей, так как аттестация, которую проходят учителя, зачастую проводится формально и не выявляет проблемных зон в их работе. В этом учебном году Рособрнадзор проведет оценку компетенций учителей русского языка, математики и литературы. Сергей Кравцов выразил надежду, что еще одним инструментом объективной оценки знаний школьников смогут стать Всероссийские проверочные работы (ВПР), апробация которых прошла в декабре 2015 года. Их результаты будут заноситься в федеральную базу данных и анализироваться.
В Тамбовской области в апробации Всероссийских проверочных работ по математике и русскому языку приняли участие полторы тысячи четвероклассников из двенадцати школ. По информации региональных организаторов, ВПР прошли в штатном режиме.
Сама процедура проверочных работ не сильно отличалась от обычной контрольной. Школьники в течение одного урока (45 минут) выполняли задания по математике, которые призваны проверить умение считать и применять математические знания. Задания по русскому языку были разбиты на два дня. В первой части ребята писали диктант. Вторая часть работы по русскому включала задания на проверку грамотности чтения, а также задания, проверяющие знание основ системы русского литературного языка.
Для того чтобы разъяснить общественности суть Всероссийских проверочных работ, управлением образования и науки проведена акция «ВПР – это не ЕГЭ», в которой приняли участие журналисты практически всех региональных СМИ, а также родители четвероклассников гимназии №12 им. Г.Р. Державина города Тамбова. 8 декабря одновременно со школьниками взрослые смогли проверить свои знания. Для родителей гимназистов коллективом учреждения был подготовлен открытый урок математики, основу которого составили задания, включенные в ВПР. В это же время корреспонденты писали диктант и выполняли задания по русскому языку. Родители смогли убедиться, что ВПР никакой дополнительной нагрузки детям не несет. По окончании урока родители школьников и журналисты смогли пообщаться с региональными организаторами мероприятия. В ходе встречи директор Тамбовского центра экспертизы образовательной деятельности Олег Мексичев рассказал собравшимся о перспективах введения ВПР, а также о том, как повлияют результаты работ на итоговую успеваемость учащихся. В частности он подчеркнул, что ВПР - это не ЕГЭ, как многие утверждали. «Ничего подобного. В 4-м классе никакого ЕГЭ нет. Кроме того, в этом году итоговая оценка не будет зависеть от результатов ВПР», - отметил Олег Мексичев. Он пояснил, что из себя представляют Всероссийские проверочные работы. По его словам, результаты ВПР в первую очередь потребуются школе для корректировки учебной программы, для индивидуальной работы учителя с каждым ребенком, для работы заместителя директора с каждым учителем. «По результатам мы сможем судить, где учат лучше, где хуже, где нужно отрегулировать учебную программу. На основе этих данных можно будет управлять качеством образования», - сказал руководитель Центра экспертизы образовательной деятельности. ВПР призваны проверить, как вводится федеральный государственный образовательный стандарт на разных уровнях образования.
Отличие ВПР в том, что работы проводятся по единым заданиям, разработанным на федеральном уровне, и проверяются по единым критериям. Таким образом все дети находятся в равных условиях. По словам организаторов, в перспективе Всероссийские проверочные работы будут проводиться по итогам каждого учебного года, а внедрять их будут поэтапно: в 2016 году – для 4 классов, в 2017 году – для 4 и 5 классов и так далее.
Что касается развития объективной оценки знаний студентов, то одним из способов повышения качества вузовского образования, по словам Сергея Кравцова, должна стать оценка знаний учащихся со стороны работодателей.
Глава Рособрнадзора Сергей Кравцов принял участие в проведении Всероссийского совещания на тему «Перспективы развития региональных систем образования». Выступая на встрече, он призвал региональные органы управления образованием в России приложить максимум усилий для обеспечения объективности проведения всех оценочных процедур в системе образования.
По словам Кравцова, последние международные исследования качества образования демонстрируют существенный прорыв России в этой сфере. Руководитель ведомства уверен, что одним из факторов, который оказал на это весомое влияние, стало повышение объективности итоговой аттестации одиннадцатиклассников. Однако проблеме все еще есть, отметил он, в частности, речь идет об объективности оценивания во время проведения других оценочных процедур, таких как итоговое сочинение и Всероссийские проверочные работы.
Этот факт Рособрнадзор намеревается учитывать при переходе к обновленной модели контрольно-надзорной деятельности в образовательной сфере. Также глава ведомства отметил, что объектами проверок будут становиться, прежде всего, те школы, по которым существуют сомнения в объективности их аномально высоких показателей по итогам оценочных процедур.
Также Сергей Кравцов рассказал о принципах построения и составляющих единой системы оценки качества образования в России. На сегодняшний день данная система включает ВПР, ГИА в 9 и 11 классах, НИКО, а также международные исследования компетенций педагогов и качества образования. Задачей Рособрнадзора при этом является анализ и использование результатов оценочных процедур в практической работе. Ведомство должно увязать эти процедуры с работой методических кабинетов, институтов повышения квалификации и инспекции. Необходимо обеспечить системность работы в направлении развития образования, подчеркнул Кравцов.
На данный момент результаты всех оценочных процедур на федеральном уровне объединяются Федеральным институтом оценки качества образования в единую систему. Такие центры, по мнению главы Рособрнадзора, нужно создать по всей стране с помощью региональных центров обработки информации. В их задачи должно войти исследование качества образования и анализ данных по конкретному региону. С помощью полученных результатов должны корректировать свою работу региональные институты повышения квалификации, органы управления образованием, методические службы.
Также важной задачей Кравцов видит формирование в регионах экспертного сообщества по оценке качественного уровня образования. К этому нужно привлекать директоров школ и учителей, демонстрирующих высокие результаты, отметил он. Они могли оказывать помощь школе, которая подвергается проверке, в формировании дальнейшей программы развития.
Глава Рособрнадзора: Регионы должны использовать результаты оценочных процедур для повышения качества образования
Объективность проведения всех оценочных процедур в образовании, от государственной итоговой аттестации до Всероссийских проверочных работ и итоговых сочинений, и выстраивание эффективной системы использования результатов этой оценки для повышения качества школьного образования – такие задачи перед региональными органами управления образованием в России поставил руководитель Федеральной службы по надзору в сфере образования и науки Сергей Кравцов в ходе Всероссийского совещания «Перспективы развития региональных систем образования».
«Последние результаты международных исследований качества образования показали, что Россия сделала серьезный рывок вперед. В том числе это произошло за счет достижения объективности оценки в итоговой аттестации в 11 классах», - отметил Сергей Кравцов.
Однако, по его словам, при проведении других оценочных процедур, таких как Всероссийские проверочные работы и итоговое сочинение, существуют проблемы с объективностью оценивания. Это будет учитываться при переходе к новой модели контрольно-надзорной деятельности в образовании на федеральном и региональном уровнях. Школы, демонстрирующие аномальные показатели по результатам оценочных процедур, в достоверности которых есть основания сомневаться, будут становиться объектами проверок в первую очередь.
Сергей Кравцов рассказал о составляющих элементах и принципах построения единой системы оценки качества образования, которая сейчас создана в России и включает в себя государственную итоговую аттестацию в 9 и 11 классах, Всероссийские проверочные работы (ВПР), национальные исследования качества образования (НИКО), международные сопоставительные исследования качества образования и исследования компетенций учителей.
«Следующая наша задача – увязать все оценочные процедуры с работой инспекции, институтов повышения квалификации и методических кабинетов. Результаты оценочных процедур должны анализироваться и использоваться в практической работе. Все должно работать в системе и на развитие», - заявил глава Рособрнадзора.
Федеральный институт оценки качества образования (ФИОКО) сейчас аккумулирует в единой системе результаты всех оценочных процедур на федеральном уровне. По словам Сергея Кравцова, аналогичные центры необходимо создать в регионах на базе региональных центров обработки информации (РЦОИ).
Эти центры должны вести все направления исследований качества образования в регионе (ВПР, НИКО, участие в международных исследованиях) и анализировать полученные данные. Результаты этого анализа должны использоваться региональными органами управления образованием, институтами повышения квалификации и методическими службами для работы с каждой школой и учителем.
Еще одной актуальной задачей для регионов, по словам главы Рособрнадзора, является формирование экспертного сообщества по оценке качества образования. К контрольно-надзорной деятельности в отношении школ необходимо привлекать в качестве экспертов учителей и директоров, которые показывают высокие результаты, чтобы они в ходе проведения инспекции могли помочь проверяемой школе сформировать программу развития.
Замминистра образования и науки РФ Ирина Кузнецова в ходе совещания рассказала о работе, которую ведет Минобрнауки России по совершенствованию качества российского образования. В числе актуальных задач она назвала модернизацию федеральных государственных образовательных стандартов, в которых необходимо более четко сформулировать результаты обучения, как в отношении содержания образования по учебным дисциплинам, так и в отношении личностных результатов обучающихся. Также, по ее словам, необходимо акцентировать внимание на адресной работе со школами, имеющими низкие образовательные результаты, совершенствовании системы педагогического образования и системы повышения квалификации учителей.
«Необходимо расширить систему независимой объективной оценки качества подготовки обучающихся, в том числе выстраивая систему Всероссийских проверочных работ, позволяющих не только развивать практику объективного оценивания в школах, но и формулировать единые для всей страны подходы к отбору ключевого содержания образования и системы оценивания результатов обучения», - отметила замминистра.
И.о. руководителя Департамента государственной политики в сфере общего образования Минобрнауки России Ирина Мануйлова акцентировала внимание на повышении корпоративной культуры педагогического сообщества в вопросах оценивания знаний школьников.
«Задача школы – не подготовить школьника к итоговой аттестации и каким-то другим проверочным процедурам, а организовать освоение в полной мере той образовательной программы, которая принята, и на каждом этапе ее освоения каждым обучающимся проводить оценку объективно, принимая соответствующие меры, которые будут способствовать корректировки индивидуальных учебных планов и обеспечивать постепенное достижение достаточно высоких результатов у каждого ученика», - заявила Ирина Мануйлова.
Она также заявила о необходимости модернизировать работу региональных институтов повышения квалификации педагогов. Программы повышения квалификации, которые они реализуют, зачастую не менялись годами и не учитывают проблемы в системе образования региона, выявленные в результате разных оценочных процедур.
Очень часто от родителей учащихся мы можем услышать: «Моему ребенку поставили не ту оценку! Мой ребенок учится лучше, у него не может быть тройки!» Почему-то многие считают, что оценивать качество знаний учащихся очень просто. И даже любой из родителей, прослушав, как отвечает ребенок, может объективно оценить его.
Со стороны кажется, что ничего сложного в этом нет. Ведь есть школьная программа, в которой четко расписано: что, в каком объеме должен знать и уметь ученик. Также есть планирование учителя, в котором подробно указано, чему на каждом уроке должен научиться ученик, что он должен узнать и уяснить. Никто из них не задумывается над тем, как же определить, усвоил ученик знания полностью или не в полном объеме? Научился он чему-нибудь или нет. Может, он все знает, но сегодня у него болит голова или зуб, поэтому он не может раскрыть свои возможности в полном объеме. Или вопрос задан так, что даже сам автор вопроса не смог бы ответить на него.
Примеров таких «может быть» и «если» — сколько угодно! Именно поэтому можно с уверенностью сказать, что оценивание знаний учащихся — это все же сложнейшая педагогическая проблема.
Оценки и отметки — это та тема, которую учителя готовы обсуждать бесконечно. Потому что школьная отметка — это не только результат работы ученика. В ней соединяются характер, настроение, личные качества педагога, его отношение к ученику, стиль работы учителя. Без оценивания работы ученика не возможен никакой процесс усвоения. Оно оказывает большое влияние на учащихся, на его отношение к предмету, учителю, школе и окружающему миру в целом. Поэтому к процессу оценивания качества знаний учащихся предъявляются достаточно серьезные требования. Анализ многочисленных исследований по данной проблеме приводит к выводу, что основным требованием к качеству оценивания является его объективность.
Что же подразумевается под понятием «объективность оценивания»?
Во-первых, одинаковые оценки характеризуют одинаковое качество знаний учащихся. Во-вторых, разные учащиеся получают одинаковые оценки при одинаковой успеваемости. В-третьих, в основе оценки лежит фактическая успеваемость учащихся, а не субъективное мнение учителя по отношению к ребенку.
Вроде все понятно и просто. Но на практике возникает достаточное количество проблем при проведении оценивания качества знаний учащихся. Приведем некоторые из них.
1.Недостаточная разработанность критериев и методов оценивания.
За последнее время достаточно часто менялись и учебные программы, вводились новые стандарты образования, но четких критериев оценивания, которые бы отвечали всем современным требованиям, так и не появилось.
При проверке качества освоения темы, курса или его отдельных частей учитель ориентируется на свое понимание и интуицию: сколько вопросов задать, в какой последовательности, какие важны, а какие второстепенны. Все эти проблемы учитель решает сам, опираясь на свой опыт, либо опирается на методическую литературу, которой на данный момент появляется достаточно много. К сожалению, не вся литература качественна, способна реально помочь учителю, особенно молодому, не имеющему никакого опыта.
2.Весьма условное обозначение результатов обучения: знания, умения, навыки, усвоения, успеваемость не имеют строгой однозначной количественной формы выражения.
3.Игнорирование учителем условий работы в классе.
Несмотря на то, что сейчас много говорят об индивидуализации и дифференциации образования, очень часто, ведя уроки в нескольких классах на параллели, учитель забывает, что нет двух одинаковых классных коллективов. Каждый классный коллектив имеет свои особенности, направленность и специфику поведения. Это все должно учитываться при отборе заданий для проверки качества знаний учащихся.
4. Субъективизм учителя по отношению к учащимся, который проявляется в следующем:
- Разделение учеников на группы («сильные», «средние », «слабые»). Достаточно часто, если ученик попал у учителя в так называемую группу «слабых», ему сложно переместиться в группу «средних», и уж тем более «сильных».
- Завышение педагогом оценок из-за желания пожалеть ребенка, угодить родителям или общественности.
- Избегание педагогами «крайних отметок» (например, 2 и 5).
- Личные качества учителя, его отношение к конкретному ребенку.
Можно предлагать разные пути решения проблемы объективизации процесса оценивания, обозначим два из них.
Первый путь — это переход на проведение оценки качества знаний с помощью тестов. Лучше, если это будет происходить с использованием средств ИКТ.
Второй путь — вынесение оценивания за рамки отношений «учитель-ученик». Достаточно сложно добиться полностью объективного оценивания учителю, который преподает это предмет. Поэтому предлагается предоставить право оценивать качество знаний учащихся на каждом уроке специальными структурами, которые должны быть созданы в школе.
Оба варианта достаточно сложны для исполнения. Справиться со всеми этими проблемами силами отдельно взятого учителя, даже одного учебного учреждения, достаточно сложно. Что же может сделать конкретный учитель? Наверное, начать с себя.
Просматривая литературу и создавая подборку методик для работы мониторингового центра, я наткнулась на методики , которые позволяют получить информацию об оценочной деятельности педагога, которая может помочь самому педагогу скорректировать стратегию своего поведения.
Все методики направлены на изучение классного журнала с его ежедневными и итоговыми отметками. Классный журнал — это естественная форма мониторинга успеваемости. Мониторинг выставления отметок в классный журнал позволяет определить степень личностного отношения педагога к достижениям учащихся.
Исследование 1. Учебный год — логически завершенный цикл, который делится на четверти, триместры, полугодия, которые, в свою очередь, также являются завершенным циклом. Каждый из этих этапов имеет три равные части: начало, середину и конец.
Посчитайте среднюю отметку для каждой части триместра (четверти). Полученные данные можно занести в таблицу:
Ф. И. О. учителя |
Средняя отметка |
||
1 часть триместра (четверти) |
2 часть триместра (четверти) |
3 часть триместра (четверти) |
|
Эти исследования лучше проводить не за один триместр (четверть), а хотя бы за два.
В каком бы классе ни преподавал учитель, динамика изменения среднего балла будет одинаковой. Это свидетельствует о стиле общения данного учителя и о приоритетной функции оценивания у него.
Исследование 2. Личность учителя со всеми ее слабостями хорошо видна при определении плотности выставления отметок. Как было уже отмечено, у каждого учителя есть своя динамика и свое деление учащихся класса на «сильных», «средних» и «слабых».
Каждый учитель выделяет в классе, где он работает, «сильных», «средних» и «слабых» (достаточно провести исследование для одного — двух классов).
Посчитайте количество отметок (сколько всего штук) у «сильного», «слабого» и «среднего» ученика (проведите подсчет в среднем по формуле: количество отметок у всех слабых разделить на количество слабых учеников в данном классе, аналогично для «сильных» и «средних»).
Полученные данные занесите в общую таблицу.
Ф. И. О. учителя |
Количество отметок (в среднем на 1 ученика) |
||
«сильный» |
«средний» |
«слабый» |
|
Эта методика позволяет рассмотреть еще один аспект — построение учителем оценочной ситуации, его установку и ориентацию на систему своих ожиданий в отношении ученика. Как правило, в любом педагогическом коллективе представлены три типа ориентации.
Социальная. Учителя с таким типом ориентации при выставлении отметок сравнивают знания и умения, учащихся с установленными нормами. Хвалят способных учащихся даже тогда, когда их учебные результаты ухудшаются, и не реагируют на рост достижений отстающих учеников. Они оценивают выполненные задания, не вникая в процесс работы.
Индивидуальная. Учителя с преобладающим данным типом ориентации сравнивают текущий ответ учащегося с прошлым ответом, с прошлым состоянием его учебной деятельности. Они дают отрицательную оценку способным ученикам при снижении успешности их работы, а повышение качества работ отстающих оценивают положительно.
На личный успех. Учителя, ориентированные на личный успех, выставляют отметку лишь как иллюстрацию своих профессиональных успехов.
У каждого учителя своя устойчивая динамика оценивания и своя градация учащихся класса «сильный», «слабый» и «средний». За один и тот же ответ у учителей разного типа один и тот же ученик получит разные отметки. Как правило, у «сильных» учащихся оценок во много раз больше, чем у «средних» и «слабых».
Исследование 3 . Позволяет провести изучение ориентации учителя на определенную функцию оценивания учащегося.
Посчитайте количество выставленных отметок одним учителем за 1 четверть (триместр) в конкретном классе (сколько всего штук).
Посчитайте количество (сколько штук) выставленных «2», «3», «4» и «5».
Вычислите процентное отношение каждой отметки (по формуле: «количество «2» умножить на 100% и разделить на общее количество отметок). Полученные данные занесите в таблицу.
Ф. И. О. учителя |
Процентное соотношение отметок |
|||
Качественный разброс оценок дает интересную информацию. У каждого учителя имеется устойчивый показатель, который характеризует приоритетную функцию оценивания у конкретного учителя.
В заключение отмечу, что, конечно, не все проблемы объективного оценивания и пути решения проблемы были рассмотрены. И приведенные методики позволяют решить пусть всего лишь одну, но достаточно сложную проблему — уменьшение субъективизма при оценивании качества знаний учащихся, который в наших школах подчас принимает самые причудливые формы. И каждый учитель, проведя эти исследования журнала, сможет оценить уже свою работу, сделать выводы и попытаться исправить ситуацию к лучшему в пользу ученика и самого себя.
Литература
- Безрукова В. С., Кололеева Н. А. Школьная отметка и управленческая деятельность завуча.// Завуч, № 2 2001 г
- Советова Е. Оценивание знаний учащихся: теория, психология, практика. // Управление школой №9 2006 г.
Высокое качество работы экспертов, участвующих в опросе, оказывает решающие влияние на получение точных и надежных результатов.
Качество экспертов определяется следующими группами свойств: компетентностью, заинтересованностью в результатах экспертизы, деловитостью и объективностью (беспристрастностью).
Компетентность эксперта должна распространяться на объект экспертизы (профессиональная компетентность) и методологию оценки (квалиметрическая компетентность).
Профессиональная компетентность включает знание технологических этапов производства продукции, значения показателей качества различных ее видов, перспектив развития продукции. требований потребителей, условий и характера потребления.
Квалиметрическая компетентность обеспечивает четкое понимание экспертом подхода к оценке качества продукции как к мере удовлетворения ею потребностей потребителей; знание методов оценки качества, особенно экспертных методов; умение пользоваться различными квалиметрическими шкалами, отличающихся большим числом градаций.
Заинтересованность эксперта в результатах экспертизы зависит от многих факторов: степени загруженности основной работой, с которой, как правило, совмещается экспертиза; возможности использования полученных результатов; целей экспертизы; характера выводов, которые могут быть сделаны по результатам экспертизы; индивидуальных особенностей эксперта.
Деловитость эксперта включает собранность, подвижность и эластичность внимания, позволяющие быстро переключаться с оценки одного показателя качества на оценку другого; контактность, т.е. умение работать с людьми при решении задач в конфликтной ситуации; мотивированность выносимых оценок.
Объективность (беспристрасность) -- способность учитывать только ту информацию, которая определяет удовлетворение потребности данной продукции. Необъективность эксперта заключается в завышении или занижении оценок объекта экспертизы по причинам, не имеющим отношения к качеству, например, из-за неспособности противостоять мнению большинства других экспертов вследствие неуверенности в своей правоте (проявление конформизма).
Методы оценки качества экспертов подразделяются на пять групп:
· эвристические (субъективные);
· статистические;
· тестовые;
· документальные;
· комбинированные.
Каждая из указанных групп делится на виды (частные оценки) и методы их получения.
Эвристические (субъективные) оценки – оценки, назначаемые человеком и основанные на предположении правильности отражения качества эксперта через оценку окружающих или самооценку.
Различают следующие виды эвристических оценок:
· самооценка;
· взаимооценка;
· оценка аргументированности и знакомства с объектом экспертизы;
· оценка эксперта рабочей группой.
Самооценка – вид и метод эвристической оценки компетентности самим экспертом. Установлено, что достоверность усредненной экспертной оценки тем выше, чем больше среднее значение самооценки членов группы. В то же время следует иметь в виду, что самооценка отличается значительной субъективностью, а это влечет за собой определенные недостатки ее. Самооценка зависит от психологических особенностей экспертов (наличия высокой или заниженной самооценки, иногда и необоснованно), степени удовлетворенности собой, понимания оценочной шкалы. Этим объясняется несовпадение результатов самооценки и взаимооценки.
Для снижения субъективности самооценку проводят дифференцированно, что повышает точность результатов. Для этого показатель самооценки определяется как функция двух коэффициентов: знакомства и аргументированности. Для экспертной оценки товаров самооценку эксперта рекомендуется определять с учетом его информированности и знакомства с оцениваемой продукцией путем заполнения «Анкеты самооценки». Эксперт отмечает регулярность чтения перечисленных в анкете источников информации и степень знакомства с оцениваемой продукцией.
Самооценка (K ca м j ) рассчитывается по формуле
K ca м j = Σ M i · K ij ,
где M i – весомость показателей информированности и знакомства; K ij – оценка, зависящая от степени информированности и знакомства.
Поскольку Σ M i = 1,00, а 0 ≤ K ij ≤ 10, то 0 ≤ K ca м j ≤ 10.
С учетом специфики оцениваемой продукции весомость отдельных показателей (M i ) может корректироваться экспертной группой.
Взаимооценка - вид и метод эвристической оценки, определяемой как средняя из оценок, назначаемых другими экспертами. Данная оценка предназначена для уменьшения субъективности оценки компетентности каждого эксперта. Установлено, что существует тесная связь между компетентностью эксперта и его усредненной оценкой, полученной от коллег. Сущность этого вида оценки заключается в том, что каждый эксперт дает оценку всем остальным экспертам, а затем рассчитывается усредненный результат.
В зависимости от количества экспертов в группе применяются две разные процедуры:
· при численности экспертов в группе менее 15 человек каждый эксперт оценивает всех остальных;
· при численности экспертов 15 человек и выше заполняется специальная анкета, в которой эксперты по квалификации поделены на три группы – выше средней, средней и ниже средней квалификации, а также по рангам внутри подгрупп (по 6– 8 человек в каждой). Затем ранжируют экспертов каждой подгруппы. Ранг 1 – самый квалифицированный эксперт, 2 – следующий по квалификации и т. д. Каждому оцениваемому эксперту присваивается числовая оценка от 10 баллов (самый квалифицированный) до 0 (совершенно неквалифицированный) с точностью до 0,5 балла.
Недостатки взаимооценки заключаются в следующем:
· эксперты могут недостаточно знать друг друга;
· на результаты оценки могут влиять взаимные симпатии или антипатии;
· эксперты, как правило, стремятся избегать сверхвысоких и сверхнизких оценок;
· неоднозначность восприятия понятия «качество эксперта».
· применять взаимооценку только в тех группах, в которых большинство экспертов хорошо знают друг друга. Если некоторые из оцениваемых экспертов незнакомы, то рекомендуется ставить прочерк в соответствующей графе;
· проводить анонимное анкетирование;
· разъяснять, что результаты анкеты будут использованы только для корректировки оценок товара;
· знакомить экспертов со структурной схемой свойств и их частных оценок.
Оценка аргументированности и знакомства с объектом экспертизы – вид и метод эвристической оценки степени специализации эксперта и факторов, влияющих на его компетентность. Эвристическая оценка компетентности, основанная на учете степени специализации и знакомства, обладает высокой эффективностью и достоверностью при условии тщательной проработки методов количественной оценки каждого из этих факторов в виде оценочных анкет. В данном случае оцениваются только те факторы, которые могут характеризоваться лишь субъективно в форме самооценки; эксперт количественно оценивает степень своей специализации по данному виду продукции и форму знакомства с ней. Затем с помощью специальной анкеты (похожей на анкету самооценки) определяет коэффициент аргументированности своих знаний и дает оценку степени своего знакомства с исследуемой проблемой. Коэффициент компетентности вычисляется как среднее арифметическое из коэффициентов аргументированности и знакомства.
Оценка эксперта рабочей группой – вид и метод эвристической оценки, предназначенной для количественной характеристики заинтересованности эксперта в экспертной оценке и его внимательности в ходе опроса. Оценка дается специалистами-аналитиками, проводящими опрос экспертов. При этом они оценивают отношение экспертов к проводимой экспертизе и их активность при обсуждении оценок. Оценки рабочей группы целесообразно выносить по 10-балльной шкале.
Статистические оценки – оценки, полученные в результате обработки суждений экспертов об объекте оценки.
Эти оценки применяются с целью уменьшения по мере возможности погрешностей, возникающих при экспертных оценках. Необходимость их обусловлена тем, что в отличие от измерений с помощью технических устройств, основанных на сравнении неизвестных величин с известными, при экспертных методах часто отсутствует известная величина (или образец, или эталон товара), значение которой принимается за действительное, т. е. максимально приближенное к истинному.
На точность результата могут оказать влияние организация и методика проведения оценки; качество построения структурной схемы показателей качества, число показателей качества, способы определения оценок, характер взаимоотношений между экспертами и т.д.
Таким образом, на точность экспертной оценки влияет множество объективных (зависящих от методики оценки) и субъективных (зависящих от эксперта) факторов, вследствие чего возникают погрешности оценки, имеющие систематическую и случайную составляющие.
Систематическая погрешность – постоянно повторяемая часть погрешности. Основной причиной возникновения ее является недостаточная или неправильная информированность экспертов. Снизить ее можно путем ознакомления эксперта с необходимой информацией перед началом экспертизы или путем проведения инструктажа, а также обсуждения, в ходе которого эксперт получает дополнительную информацию от специалистов-аналитиков или других экспертов. Кроме того, поскольку систематическая погрешность эксперта является случайной для группы экспертов, то усреднение оценок группы позволяет повысить точность оценки качества. Систематическую погрешность можно оценивать степенью отклонения от среднего мнения экспертной группы.
Случайная погрешность зависит от психолого-физиологических особенностей эксперта (собранности, уверенности в правоте, внимательности, других личных качеств) и снижается при многократных повторениях оценок. Установить ее величину можно по воспроизводимости результатов.
Различают следующие виды статистических оценок:
· оценка по отклонению от среднего мнения экспертной группы;
· оценка объективности эксперта.
Оценка по отклонению от среднего мнения экспертной группы – оценка, основанная на предпосылке, что действительным значением групповой экспертной оценки является средняя оценка экспертной группы. Поэтому чем меньше отклонение индивидуальной экспертной оценки от групповой, тем более высоким признается качество эксперта давшего эту оценку.
Индивидуальные экспертные оценки могут быть двух типов:
· ранжирование экспертом оцениваемых величин (в порядке убывания или возрастания);
· определение экспертом числовых значений оцениваемых величин (например, при определении коэффициентов весомости показателей качества каждому коэффициенту эксперты присваивают определенные числовые значения).
Оценка по отклонению от среднего мнения экспертной группы может быть выражена через совокупность абсолютных отклонений (Д і) , рассчитываемых как разница между средней групповой оценкой (Х с.г) и индивидуальной оценкой (Х і ):
Д і = Х c .г – Х і . .
Чем больше Д і , тем выше отклонение индивидуального мнения эксперта от среднего мнения экспертной группы.
Оценка объективности (беспристрастности) эксперта – оценка соблюдения экспертом принципа объективности, его способности к беспристрастной оценке конкретных образцов товаров. Эта очень важная характеристика качества эксперта существенно влияет на точность результатов групповой экспертной оценки. Статистические методы непосредственной оценки объективности экспертов не разработаны, поэтому на практике довольствуются косвенной оценкой по отклонению от среднего мнения экспертов.
Тестовые оценки – оценки с помощью тестирования психолого-физиологических особенностей экспертов. Данные оценки предназначены для оценивания объективности, квалиметрической и профессиональной компетентности эксперта. Достоинством этих оценок является возможность оценить личные качества эксперта, для чего другие методы и виды оценок неприемлемы. Недостаток их заключается в том, что полученные при тестировании результаты невозможно сравнить с данными, полученными каким-либо объективным методом.
При проведении тестовых оценок к тестам предъявляются следующие требования:
· понимание испытуемым экспертом постановки тестовой задачи и условий, которым должно отвечать ее решение;
· вероятность случайного угадывания решения задачи должна быть близка к нулю;
· тестовая задача должна иметь точное решение;
· обоснование близости тестовой задачи и тех реальных задач, которые приходится решать эксперту при оценке качества продукции.
Разновидностями тестовых оценок являются:
· оценка воспроизводимости результатов;
· квалиметрической компетентности эксперта;
· объективности корректирования своих оценок.
Оценка воспроизводимости результата – оценка степени близости индивидуальных оценок эксперта, проведенных через определенные промежутки времени. Обычно применяется в случаях, когда качество экспертов оценивается в несколько туров, при этом сравниваются оценки одного и того же автора в разных турах. Наиболее часто оценка воспроизводимости результатов применяется при органолептическом анализе пищевых продуктов.
Следует учесть, что промежуток времени между турами должен быть невелик, чтобы исключить влияние возможной новой информации, изменяющей его суждения, но в то же время достаточен, чтобы эксперт забыл данные оценки в предыдущем туре.
Если проводится ранжировка показателей качества, то оценка воспроизводимости результатов рассчитывается по формуле
где – j -го эксперта; R j – коэффициентов ранговой корреляции для j -го эксперта, определяется по формуле
где d ij – разность между рангами, присвоенными i- му показателю качества j -м экспертом в первом и втором турах опроса; n – количество объектов ранжирования.
Если же эксперты вычисляют численные значения коэффициентов весомости, то оценка воспроизводимости результатов рассчитывается по формуле
где – коэффициент воспроизводимости результатов j -го эксперта; ρ j – расстояние от среднего мнения группы для j -го эксперта, рассчитывается по формуле
где M ij * и M ij ** – значения i -го коэффициента весомости назначенные j -м экспертом соответственно в первом и втором турах.
Коэффициент воспроизводимости результатов эксперта может изменяться в интервале от 0 до 10. К экспертизе качества продукции рекомендуется допускать экспертов с воспроизводимостью результатов 6 и выше.
Оценка квалиметрической компетентности эксперта – оценка теоретических знаний методов оценки качества и умения их применять. Оценка теоретической подготовки эксперта может проводиться путем устного или письменного контроля знаний с использованием тестов в определенной области знаний. Несколько сложнее обстоит дело с проверкой умения, которое подразделяют на три типа:
· умение использовать разные типы оценочных шкал;
· умение определять субъективные вероятности;
· умение различать достаточное число градаций оцениваемого свойства.
Умение использовать разные типы оценочных шкал. Шкала – это упорядоченный ряд отметок, соответствующий соотношению последовательных значений измеряемых величин. В квалиметрии шкала является средством адекватного сопоставления и определения численных значений отдельных свойств и качеств различных объектов. Практически используют следующие виды квалиметрических шкал: шкалу наименований, шкалу порядка, шкалу интервалов, шкалу отношений и шкалу абсолютных значений.
Шкала наименований используется в случаях, когда несколько неизвестных размеров необходимо сопоставить с одним и определить, какие из них равны размеру, выбранному за базу для сравнения, а какие нет. По шкале наименований классифицируют размеры по признаку эквивалентности, тождества, равенства. Такое измерение является наиболее простым, но наименее информативным. При этом не определяется, какой из неодинаковых размеров больше или меньше размера, принятого за базовый, т.е. порядок возрастания или уменьшения размеров не устанавливается. Измерение заключается только в определении одинаковости (равенства) или отличия (неравенства) того или иного размера от заранее определенного значения. Следовательно, определяющие отношения между измеряемыми размерами таковы: равны или не равны, т.е. в символах = или ≠.
Математическое выражение сущности измерений по шкале наименований можно записать так:
Р i = Р j или Р i ≠ Р j ,
где Р i – размер, с которым сравнивают (базовый размер); Р j – j -й размер из сравниваемых размеров (j = 1,2,3, … , n ); n – число сравниваемых размеров.
При сопоставлении и измерении размеров по шкале наименований осуществляется, например, контроль и оценка качества чего-либо по альтернативному принципу: годен – не годен; подходит – не подходит; соответствует – не соответствует и т.п.
Шкала порядка – это последовательный ряд значений, дающий систематизированное представление о простейших соотношениях величин сопоставляемых размеров свойств, признаков или качеств в целом оцениваемых объектов.
При попарном сопоставлении всех измеряемых размеров устанавливают, какой размер больше или меньше другого, какой лучше или хуже другого. Если имеются одинаковые размеры, то это соотношение также определяется. Далее установленные соотношения размеров ранжируются в порядке возрастания и/или убывания (уменьшения) их величин. Сами величины при этом остаются неопределенными. Полученный в результате ранжирования ряд значений является шкалой порядка возрастающей или убывающей последовательности.
По шкалам порядка значения размеров могут быть классифицированы (оценены) не только по критерию «одинаковы или нет», но и по соотношению, что «больше или меньше» другого или «что лучше, а что хуже» другого.
Математическим выражением соотношений попарно сопоставляемых размеров является:
Р i = Р j или Р i ≠ Р j или Р i > Р j или Р i < Р j.
В результате сопоставления размеров Р i и Р j определяют, какой размер больше или меньше другого, а также какие размеры имеют одинаковые значения, т.е. по шкале порядка определяют следующие соотношения: равно (=), не равно (≠), больше (>), меньше (<).
Недостатком измерений по шкалам порядка можно считать то, что получаемые результаты в виде ранжированного ряда наименее информативны. В частности, при таком измерении нет возможности определить, на сколько один размер больше или меньше другого, лучше или хуже другого. Однако главным преимуществом измерений с использованием шкал порядка является то, что и их помощью инструментально неизмеряемые величины все же можно оценить (измерить) количественно. К измеряемым по шкалам порядка относятся такие свойства объектов, как вкус, запах, привлекательность, эстетичность, комфортабельность и др. По шкале порядка часто производят и общие экспертные оценки качества нескольких сопоставляемых объектов.
Шкала интервалов используется в случаях, когда нет возможности измерить сами размеры наблюдаемых величин, но возможно (или имеется необходимость) измерить только отличия (разницы) между познаваемыми сопоставлением размерами.
На измерительной шкале интервалов фиксируются отличия сопоставляемых размеров. Эта форма отображения величин измеряемого является более совершенной, так как на шкале интервалов имеются условные, но вполне определенные единицы измерений, что позволяет количественно (численно) охарактеризовать соотношение исследуемых размеров.
Математическая запись сравнения между собой двух однородных размеров по их разнице имеет вид:
ΔР i,j = Р i – Р j .
По шкале интервалов определяют такие соотношения размеров, как равно (=), не равно (≠), больше (>), меньше (<), сумма (+), разница (– ).
Классическим примером измерений по шкале интервалов является измерение температур по шкале Цельсия. По шкале интервалов невозможно определить, во сколько раз один размер больше или меньше другого.
Шкала отношений – это измерительная шкала, на которой отсчитывается (определяется) численное значение величины q i как математического отношения измеряемого размера Р i к другому известному размеру, принимаемому за единицу измерений [Р].
Любое измерение по шкале отношений предполагает сравнение неизвестного размера с известным и выражение первого через второй в кратном или дольном отношении.
Математическая запись измерения по шкале отношений имеет вид:
где i = 1, 2, 3, … , n – это номер измеряемого размера.
Шкала отношений – это шкала интервалов, в которой определен нулевой элемент – начало отсчета, а также размер (масштаб) единицы измерений [Р].
По шкале отношений определяются такие значения измеряемых размеров, как: равно (=), не равно (≠), больше (>), меньше (<), сумма (+), разница (– ), умножение (×), деление (:). Следовательно, с относительными величинами измеряемых размеров можно проводить многие логические и все арифметические действия.
Шкала отношений наиболее приемлема для измерений большинства показателей качества, особенно для таких численных характеристик, как геометрические размеры объектов, их плотность, сила, напряжение и прочих.
Шкала абсолютных величин используется в случаях, когда величина измеряется напрямую. Например, непосредственно подсчитывается число дефектов в изделии. Количество единиц производственной продукции и т.п. При таких измерениях на измерительной шкале отмечаются абсолютные количественные значения измеряемого. Такая шкала абсолютных значений обладает теми же свойствами, что и шкала отношений, с той лишь разницей, что величины, обозначенные на этой шкале, имеют абсолютные, а не относительные значения.
Результаты измерений по шкале абсолютных величин имеют наибольшую достоверность, информативность и чувствительность к неточным измерениям.
Шкалы интервалов, отношений и абсолютных величин называются метрическими, так как при их построении используются меры, т.е. размеры, принятые в качестве единиц измерений.
Характеристики, параметры или характеристики свойств объектов, измеряемые по шкале наименований или по шкале порядка, являются не количественными, а качественными , т.е. неопределенными по их истинной величине и по величине различий между ними. Размер, определенный по любой из метрических шкал, является количественной величиной, и сами эти шкалы являются количественными .
Квалиметрические шкалы, их определяющие отношения, измеряемые ими типы характеристик качества, а также некоторые примеры измеряемого приведены в табл. 4.1.
Каждая из квалиметрических шкал имеет свое значение и свою область применения, и поэтому они чаще всего не взаимозаменяемы при решении той или иной экспертной задачи. Умение определять субъективные вероятности – способность эксперта оценивать вероятность наступления определенных событий. Эксперты, которые не обладают такой способностью, не должны привлекаться к экспертизам, связанным с прогнозированием.
Умение определять субъективные вероятности при вынесении некоторых видов оценок. Например, при определении коэффициентов весомости некоторых событий эксперту иногда приходится использовать понятие субъективности вероятности их наступления. Зачастую прибегают к специальным тестам, с помощью которых можно оценить умение кандидата в эксперты точно определять субъективные вероятности.
Умение различать достаточное число градаций оцениваемого свойства – способность эксперта улавливать различия в интенсивности проявления каждого свойства. Эта способность в значительной мере обусловлена чувствительностью эксперта к самым незначительным изменениям свойств и показателей объектов экспертизы. Например, при органолептическом анализе испытателей проверяют на умение выявлять разницу во вкусах, запахах, оттенка цвета и др. От способности эксперта различать градации оцениваемого свойства зависит также точность индивидуальных и групповой экспертных оценок, поэтому тестовые испытания по выявлению указанной способности должны помочь отобрать в экспертную группу специалистов высокого качества.
Таблица 4.1 . Виды квалиметрических шкал
