Наблюдая, как стремительно растет число субъектов Российской Федерации, участвующих в эксперименте по проведению единого государственного экзамена (ЕГЭ)[1], уместно, тем не менее, остановиться и, оглянувшись, выяснить, чем мотивируется необходимость такого дорогого эксперимента.

В постановлении правительства от 16.02.2001 № 119 «Об организации эксперимента по введению единого государственного экзамена», принятом по предложению Министерства образования (в соответствии с решением коллегии Минобразования от 13.12.2000 №20), какого-либо обоснования эксперимента, затрагивающего интересы немалого числа граждан России, нет, не считая утверждения, что введение единого государственного экзамена обеспечит «совмещение государственной (итоговой) аттестации выпускников ХI (ХII) классов общеобразовательных учреждений и вступительных испытаний для поступления в образовательные учреждения высшего профессионального образования»[2].

Из всех последующих документов, обеспечивающих проведение единого государственного экзамена в 2001 году, обоснование необходимости его введения находим только в справке, подготовленной на коллегию Минобразования России (12.10.2001, № 15/1). Составители основополагающего документа предполагали, что «введение ЕГЭ позволит решить следующие проблемы:

1.Обеспечить реальную эквивалентность государственных документов о полученном среднем (полном) общем образовании.

2.Восстановить преемственность между высшим и общим образованием на этапе перехода с одной ступени на другую. Реально превратить конкурс в высшие учебные заведения в конкурс знаний.

3.Зачислять в вуз на основе конкурса документов. Эта мера в сочетании с введением предусмотренных планом действий Правительства социальных и экономических мер повысит доступность качественного высшего образования для талантливой молодежи из малообеспеченных семей и отдаленных от вузовских центров местностей.

4.Обеспечить государственный контроль качества общего образования путем создания независимой, более объективной системы оценки подготовленности выпускников общеобразовательных учреждений.

5.Создать технологию объективной оценки подготовленности выпускников, которая могла бы использоваться в деятельности, предусмотренной Законом РФ «Об образовании» независимой службы аттестации образовательных учреждений».

Добавим к этому перечню еще одну очень непростую задачу, которую должен разрешить ЕГЭ — по его результатам предполагается определять конкретные размеры государственных именных финансовых обязательств (ГИФО). Сама идея дифференцированного размера ГИФО, реализующая законодательное положение (Ст. 42, п. 1 в Законе РФ «Об образовании» 1992 года) о нормативном по душевом финансировании высшего и послевузовского профессионального образования, еще не раз будет обсуждаться. Для нас же существенна уже реализуемая в эксперименте связь между размерами ГИФО и результатами единого государственного экзамена как еще одна целевая функция ЕГЭ.

Заявленные цели обладают очевидной привлекательностью, и нам остается только понять, насколько они реальны, совместимы и почему значительная часть весьма известных вузов и некоторые территории не торопятся включаться в эксперимент по ЕГЭ.

Сначала несколько слов о возможной объективности оценивания или измерения уровня подготовленности, образованности, обученности школьника, студента, выпускника, в результате которой появляется некое число, называемое «отметка». Традиционная в образовании процедура сводится к тому, что преподаватель сравнивает ответ (воспроизведение определенного содержания, решение задачи, разрешение проблемной ситуации и т. д.) испытуемого с некоторым образом-эталоном ответов на такие или аналогичные вопросы. Как правило, такой образ-эталон не имеет четких, словесно зафиксированных признаков. На основании сравнения реального ответа с таким эталоном преподаватель мысленно выстраивает испытуемых вдоль своеобразной порядковой шкалы: данный студент ответил лучше, чем … , хуже, чем … , так же, как … . В результате на свет появляется конкретная отметка (плохо — 2, удовлетворительно — 3, хорошо — 4, отлично — 5). В этом случае преподаватель выступает как эксперт, оценивающий, измеряющий уровень подготовленности, обученности испытуемого. Можно говорить, что такая система оценки необъективна, но уже из этого простого примера понятно, что объективность оценки не может быть выше объективности эталона и процедуры его использования, т. к. очевидна зависимость отметки от «имплицитной модели эталона», существующего у каждого конкретного оценивающего лица, от его владения процедурой оценивания.

Что же делает процедуру использования тестов более объективной?

Во-первых, это стандартизация тестов и процедур их использования. Именно она должна обеспечивать равенство условий всех тестируемых, и прежде всего:

— единое для всех содержание и способы его предъявления в вопросах, задачах тестов;

— одинаковую проектируемую сложность и статистически (по результатам пробного тестирования) близкую трудность разных вариантов тестовых заданий;

— единое для всех испытуемых максимальное время, отводимое на выполнение всего теста;

— единые для всех принципы и критерии оценивания результатов выполнения теста.

Во-вторых, исключение из процедуры оценивания результатов тестирования человека — эксперта.

В-третьих, очень четкое представление о том, что же мы хотим получить в результате тестирования.

Первые два условия достигаются относительно легко, поэтому мы сосредоточимся на достижимости третьего.

Итак, мы хотим обеспечить реальную эквивалентность государственных документов о полученном среднем (полном) общем образовании, обеспечивая государственный контроль качества общего образования путем создания независимой, более объективной системы оценки подготовленности выпускников общеобразовательных учреждений на основе ЕГЭ, который базируется на современной тестовой технологии.

Представим себе, что такая система уже создана, и сразу же осознаем, что, независимо от наших первоначальных замыслов, это не что иное, как важнейший и ответственнейший элемент государственного образовательного стандарта полного общего образования, который никак не удается сформировать уже 10 лет!

Действительно, как бы теперь ни прописывались требования к уровню подготовки выпускника полного общего образования, реальное соответствие будет устанавливаться по результатам процедуры тестирования, как сегодня это делается в традиционной, но менее жесткой процедуре выпускных экзаменов, определяющих отметки, которые выносятся в аттестат зрелости.

Тем самым реальный и действенный механизм установления требований к уровню подготовки выпускника (в данном случае требований федерального уровня) — это батареи тестов, процедура их использования, принципы и критерии определения результатов тестирования.

Однако согласны ли мы с таким определением требований к уровню подготовленности? С таким отображением базовой совокупности целей полного общего образования, определяющих, в свою очередь, качество выпускника и образования? Разве основные цели полного общего образования сводятся к успешному выполнению тестов по определенному набору учебных дисциплин? Подчеркнем, именно набору, а не совокупности учебных дисциплин, поскольку совокупность неявно подразумевает их определенную системную целостность.

Думается, что большинство с уверенностью скажут, что не считают главным критерием качества выпускника успешное решение им примеров и задач по математике или физике. Не считают, что главное для выпускника — это овладение приемами решений, опирающимися только на использование запоминаемых формул или типовых алгоритмов решения. Такие ответы наиболее вероятны в случаях, когда выпускник не собирается продолжать свое математическое или физическое образование. Более подготовленный к ответу на такие вопросы человек скажет, что:

—в базе знаний образованного человека, даже если это чистый гуманитарий, математика и физика должны занимать достойное место;

—в основе тех замечательных свойств, которые, следуя национальной доктрине[3], должна обеспечить система российского образования, лежит, в частности, и владение этими формулами;

—опирающееся только на собственную память выпускника успешное использование этих формул и типовых алгоритмов решения тестовых задач определит владение выпускником ключевыми компетентностями[4], такими как, например, критическое мышление, работа с информацией (включая ее представление в различных видах), обработка числовой информации и т. д.

Могу — не без сомнения, которое разделяет Джон Ровен (младший)[5] — допустить правомерность такого мнения, но при условии, что объема времени, отпущенного на обучение, хватит на усвоение и освоение чего-либо сверх обязательного, надежного запоминания часто второстепенных формул и типовых алгоритмов, необходимых для успешного выполнения тестов.

Другими словами, можно обсуждать самые перспективные, прекрасные и заманчивые цели, но если жизненно значимый результат — успешность выполнения тестов — зависит от усвоения определенного количества формул и алгоритмов, вы потратите на них столько времени, сколько будет необходимо, даже если при этом его не хватит на достижение замечательных, но не контролируемых строго целей!

Сразу оговоримся, что это утверждение не противоречит необходимости контролируемого усвоения, запоминания обучаемым минимально необходимого числа наиболее значимых фактов, фундаментальных аксиом, принципов и гипотез, при условии, что объем этого содержания будет удовлетворять принципу минимальной полноты[6]. Принцип минимальной полноты означает, что совокупность элементов, использовать которые обучаемый должен, опираясь только на собственную память, обязана быть минимальной по объему, но достаточно полной для построения доступной для школьника, непротиворечивой, мировоззренчески значимой теории.

Вернемся теперь вновь к объективности тестов, припомнив, что степень объективности процедуры оценивания тем выше, чем в большей степени эксперт-преподаватель выведен за пределы такой процедуры. Из этого утверждения сразу следует, что максимальной объективностью обладают тесты с выбором ответа. Наиболее типичный вид таких тестов — вопрос и несколько правдоподобных ответов, из которых один правильный, остальные ложные. Такие тесты часто называют «закрытыми» тестами в противоположность «открытым» тестам, предполагающим достаточно свободный ответ на поставленный вопрос. Давно отработанный механизм проверки правильности выполнения «закрытых» тестов сводится к установлению соответствия выбранного отвечающим ответа правильному, не требует привлечения эксперта и может быть полностью доверен компьютеру. Оценка успешности выполнения «открытых» тестов требует обязательного привлечения эксперта и, по крайней мере сегодня, не может быть компьютеризирована.

Таким образом, стремление к объективизации оценки подготовленности обучаемого выпускника ведет к использованию «закрытых» тестов, и можно было бы ориентироваться и опираться на них, если бы не одно существенное «но»… Дело в том, что по своему основному предназначению, по сути их конструирования «закрытые» тесты не допускают вариативности, неоднозначности постановки вопроса и соответственно формулировки ответа. Разумеется, ответ должен быть известен, он должен быть однозначно и бесспорно задан заранее. Отсюда следует, что в «закрытые» тесты нецелесообразно включать задания, предполагающие неоднозначное построение модели (как качественной, так и количественной) разрешения представленной в задании проблемной ситуации, поскольку очень часто в таких заданиях важнее не конечный ответ, а построение и обоснование модели, ход рассуждений обучаемого. Исключив же такие задания, мы теряем возможность увидеть и оценить способность испытуемого разрешать проблемные ситуации, выходящие за пределы освоенных простейших алгоритмов, т. е. теряем возможность оценить проявление мышления и воображения и вырастающие на их основе способности к творчеству. Именно поэтому в тесты международного тестирования, в централизованное тестирование, в ЕГЭ включают задания «открытого» типа, несмотря на то что степень объективности оценки, напрямую зависящая от качества экспертов, их количества и от организации их работы, уменьшается, а стоимость процедуры существенно возрастает.

Включая в совокупность (батарею) тестов сложные открытые задания, мы либо увеличиваем время тестирования, усложняя технологию этого процесса, либо уменьшаем существенно содержание тестов, выделяя из его установленного, обязательного объема некоторую часть, определяющую успешность выполнения данных тестов. Но тогда неясно, так ли радикально подход, реализуемый в ЕГЭ, отличается от типичных выпускных экзаменов в школе. Объективность оценки ЕГЭ за счет уменьшения влияния человеческого фактора на его результат может увеличиться, особенно на первых порах, но едва ли принципиально.

Обратимся к вопросу о роли ЕГЭ в обеспечении реального государственного контроля качества общего образования, о действительной эквивалентности государственных документов о полученном среднем (полном) общем образовании. Зададим при этом себе вопрос — важно ли при решении именно этой проблемы стремиться к дифференциации успешности отдельных испытуемых? Другими словами, важно ли при усредненном контроле качества подготовки выпускников полной (или основной) средней школы считать существенным, чтобы успешность выполнения теста конкретных Василия Петрова, Марии Толоконцевой, Анатолия Смирнова и других отличались друг от друга. Отвечу за себя, надеясь, что к моему мнению присоединятся многие: нет, не нужно! Важнее знать, какая часть тестируемых усвоила и успешно может использовать наиболее значимые, важные элементы содержания, приоритетно определяющие качество подготовленности выпускника. При этом не следует огорчаться, если 99,9 процента выпускников владеют этим содержанием.

А вот если вы хотите определить, кто из выпускников лучше освоил содержание обучения, более способен к решению тестовых задач (т. е. с меньшими затратами сил и времени приходит к правильному решению), то вы должны так подобрать тестовые задания, чтобы кто-то из тестируемых с ними успел справиться, а кто-то нет. В этом суть дифференцирующих тестов! Тесты, отслеживающие усредненное качество обучаемых (назовем их мониторинговыми тестами), и дифференцирующие тесты по сути своей — разные тесты!

Тесты ЕГЭ, определяющие отметку в аттестате зрелости, оценку, учитываемую на вступительных экзаменах в вуз, по назначению своему — дифференцирующие тесты!

Можно ли дифференцирующие тесты использовать как мониторинговые? Или более корректно, можно ли результаты тестирования, проведенного по дифференцирующим тестам, использовать для оценки усредненных характеристик качества подготовленности выпускников школы, района, области и т. д.? Можно! Только следует помнить следующее: мы получили избыточную информацию, которую вынуждены усреднять; при конструировании тестов необходимо включать, возможно, не дифференцирующие задания, но определяющие владение тестируемым наиболее существенными элементами содержания образования. Учтено ли это в сегодняшних тестах? Есть все основания для сомнений.

Теперь обсудим цель, по-видимому, давшую право данному госэкзамену назваться единым — зачислять в вуз на основе конкурса документов, фиксирующих результаты ЕГЭ. Начнем с повторения вопроса, сформулированного директором московской школы самоопределения Александром Тубельским в разговоре с журналисткой газеты «Известия–Наука» Натальей Ивановой-Гладильщиковой: «Но разве общее образование — это лишь ступенька для получения высшего образования? Ведь очень многие ребята не собираются в вуз (да, честно говоря, и не должны туда идти). У них хорошие руки, они могут получить начальное профессиональное образование. А их ориентируют сдавать экзамены на интеллектуальные умения»[7].

Действительно, если мы с помощью ЕГЭ ставим знак равенства между оценкой подготовленности выпускника полного среднего образования и оценкой готовности к поступлению в вуз, то мы неявно, по факту, считаем, что целью полного среднего образования является подготовка к успешному обучению в вузе или в учебном заведении, дающем среднее профессиональное образование. Если Министерство образования России считает, что это так, то пора об этом заявить и в проектах Государственных образовательных стандартов (ГОС) общего образования и в предложении о внесении поправки в Закон РФ «Об образовании». Вот только возможно ли это? Ведь и среднее и высшее профессиональное образование сильно дифференцировано! Ясно, что для успешного обучения на физическом и филологическом факультете одного и того же университета нужны разные способности и разная подготовка. Можно ли найти общую (инвариантную) часть, единое ядро образованности, обученности, одинаково востребованное для физика и лирика, для математика и будущего актера? Допускаю, что можно, только это очень непросто! О том, что это непросто, говорят недавно опубликованные проекты ГОС общего образования. Более того, если удастся сравнительно быстро найти профессионально приемлемое описание целостной, концептуальной модели выпускника полного среднего общего образования, отражением которой и является ГОС, то и от нее переход к общей, достаточно однозначной и объективно оцениваемой в едином экзамене совокупности свойств будет очень непростым. Берусь утверждать, что высшая мера объективности оценивания подготовленности выпускника, школьника, студента возможна только на пути установления однозначных соответствий множества ответов испытуемого множеству признанных фактов, понятий, аксиом, алгоритмов и процедур действий по эталонам, при строго корректной постановке вопроса. Все остальное в большей или меньшей степени требует участия эксперта, вносящего в оценочную деятельность сложно измеримую долю субъективизма.

Значит ли это, что, не определив общей, обязательной для освоения всеми выпускниками средней полной школы части содержания обучения, независимо, пойдут ли они в вуз, техникум, колледж, в какое-то другое профессиональное образовательное учреждение или не пойдут, нужно прекратить эксперимент по ЕГЭ? Нет, не значит, поскольку нужно признаться честно, что без таких экспериментов этого самого ядра усваиваемого содержания, пожалуй, не найти.

Теперь о позиции вуза. Каждый вуз вырабатывает свою модель выпускника — человека, обладающего определенным набором приобретаемых в данном вузе свойств. Эта модель согласовывается не только с формальным ГОС по данной специальности, направлению подготовки, но и с потребностью именно в таких специалистах, в таких выпускниках. Дело в том, что вузы давно столкнулись с новыми экономическими условиями: на уровне собственной востребованности на рынке образовательных услуг у абитуриентов и у потребителей выпускников! Разумеется, жаль, что, чаще всего, вузовская модель выпускника не вербализирована и проявляется только в виде динамичной совокупности требований к освоению студентами отдельных дисциплин, выполнению курсовых и дипломных работ или проектов. Важно, что такая модель есть, и если первокурсники недостаточно подготовлены и не могут соответствовать установленным требованиям, то приходится менять либо процесс подготовки, либо модель студента, выпускника. Чаще доучивают первокурсника, тратя на это ресурсы и прежде всего время. Так нужно ли директивно лишать вуз права отбирать устраивающего его по подготовленности, по способностям абитуриента?

Значительная часть авторов, принимавших участие в обсуждении ЕГЭ, считает, что нужно. Нужно, хотя бы потому, что вузы, по мнению сторонников сегодняшнего варианта ЕГЭ, имеют на собственной до вузовской подготовке дополнительные доходы. Да, имеют вполне легальные доходы от подготовительных факультетов и курсов. (О нелегальных здесь говорить не будем.)

Но есть более существенный вопрос: почему вообще существует потребность в до вузовской подготовке? Примем как очевидный такой ответ на этот вопрос: до вузовская подготовка нужна, поскольку школьная подготовка для успешного обучения по избранному направлению, специальности в данном вузе недостаточна. Как может изменить эту ситуацию ЕГЭ? Поднимет «планку» подготовленности, но по какому предмету? По всем? Учитывая, что не все выпускники полной средней школы будут поступать в вузы, снизит требования ЕГЭ? Как тогда быть вузам? Оставит требования приблизительно на том же уровне?

Но если престижные вузы будут поднимать уровень проходных баллов по ЕГЭ и все вузы вынуждены будут поднимать проходные баллы на высококонкурсные специальности, да еще величина ГИФО будет зависеть от количества баллов, то все наши школьники старших классов будут готовиться к ЕГЭ. Это уже есть. Об этом уже пишут. Очень боюсь, что такая школьная подготовка может оказаться хуже сегодняшней!

В заключение попробуем сформулировать некоторые конструктивные соображения, направленные на совершенствование ЕГЭ.

К очевидным достоинствам единого государственного экзамена следует отнести функционирующую с малыми (по сравнению с объемами) сбоями организационную структуру и технологию эксперимента. Разумеется, здесь есть что совершенствовать, в первую очередь, исключить возможность выполнения заданий другим человеком, подсказки и помощь экзаменуемому в процессе экзамена, недобросовестность и необъективность экспертов, операторов ЕГЭ и т. д. Но опыт 2002 года показывает, что большой, сложный и важный эксперимент уже идет.

Важным результатом эксперимента является увеличение числа выпускников сельских и провинциальных школ, поступивших в столичные вузы и в вузы известных вузовских центров, что отметили и президент Владимир Путин, и премьер-министр Михаил Касьянов, и вице-премьер Валентина Матвиенко[8]. Будем надеяться (и этому нужно способствовать по существу, это нужно изучать и об этом информировать общество), что большая часть их будет успешно учиться в этих вузах.

Существенно, что, несмотря на все оговоренные ранее недостатки и сомнения, ЕГЭ начинает и, главное, может устанавливать определенные, единые рамки качества подготовленности выпускников школы. Учителя, различные формы дополнительной подготовки начинают функционировать, обслуживая требования ЕГЭ, поскольку успешность сдачи единого экзамена становится целью большей части выпускников и особенно тех из них, кто собирается поступать в высшие и средние учебные заведения. В результате мы обрекаем выпускников школы, желающих получить хорошие отметки, на выучивание, усвоение на уровне запоминания, воспроизведения, использования (по образцу) избыточного объема содержания обучения[9]. И все-таки нельзя ЕГЭ в том виде, каким он был в 2001, 2002 годах, превращать в важнейший, наиболее жесткий элемент ГОС общего полного образования, вне зависимости от содержания и сроков принятия последнего.

Нужно оптимизировать, привести к минимально полному объему количество учебных элементов, использование которых в заданиях ЕГЭ опирается только на собственную память экзаменующегося.

Справедливо было бы, объединяя задания в разделы А и В, либо выравнивать их в пределах каждого раздела при проектировании по уровню сложности, а по результатам тестирования — по уровню трудности[10], либо указывать количество баллов, которые может получить экзаменующийся за успешное выполнение конкретного задания.

Справедливо в дифференцирующих тестах такого уровня ответственности, как ЕГЭ, использовать в вариантах тестов одно и то же содержание, одну и ту же сложность заданий.

Несправедливо ставить одну и ту же отметку за равную успешность выполнения ЕГЭ выпускнику, который вообще не собирается поступать в вуз или будет поступать в вуз по направлению, специальности, не связанной с данным экзаменом. Наиболее простой выход из создавшегося «вузоцентрического» (по терминологии Э. Днепрова) положения — вывести, по крайней мере, раздел С единого экзамена за пределы выпускного балла. То есть выпускник, который совсем не собирается поступать в вуз, или выпускник, выбравший такой вуз (специальность, направление), в котором данная учебная дисциплина не входит в перечень вступительных экзаменов, задания раздела С не выполняет, получая по данной учебной дисциплине отметку, в том числе и высокую, в соответствии с достигнутой успешностью. Выпускник же, выполняющий задания раздела С, получает за это соответствующие дополнительные баллы. Такой подход соответствует имеющейся практике в США, где порядка 48 процентов готовящихся поступать в университеты занимаются по углубленным программам и около семи процентов выпускников выполняют более сложные тесты Advanced Placement (AP), а сдают его четыре процента. Аналогично в Англии существует программа двухлетней подготовки в вуз, завершающаяся экзаменом повышенного уровня
(A — level[11]). В перспективе такая дифференциация полноты выполнения всего объема ЕГЭ может быть связана с введением профильного образования в старших классах общеобразовательной школы.

Нецелесообразно при построении ЕГЭ ориентироваться на пример международного тестирования, включающего в себя усложненные, качественные задания, поскольку это тестирование носит мониторинговый характер и не настроено на очень ответственное дифференцирование личных результатов тестируемых.

Я бы предложил ориентировать тесты на демонстрацию владения обязательной и общей для всех выпускников школы минимально полной совокупностью учебных элементов.

Нет никакой необходимости обязывать вузы включаться в систему ЕГЭ, отказываясь от собственных вступительных экзаменов. Такое положение опять же соответствует мировой практике, когда часть вузов (как правило, наиболее элитарных и востребованных) в странах, давно применяющих тестовые системы выпускных экзаменов, обязывают своих абитуриентов сдавать в том или ином виде вступительные экзамены. Такое положение соответствует и Концепции модернизации образования в России, где сказано, что «в высших учебных заведениях, осуществляющих подготовку по профессиям, предполагающим наличие определенных творческих, психологических, физических наклонностей, а также реализующих учебные программы повышенной сложности, могут быть установлены дополнительные требования к приему».

И, наконец, я бы приостановил расширение эксперимента. Приостановил, чтобы остановиться и оглянуться.


[1] В 2001 году в эксперименте по ЕГЭ участвовали пять субъектов Федерации, в 2002 году — 16, на 2003 год запланировано участие 49 субъектов Федерации.

[2] Текст постановления приведен в приказе Министра от 16.03.2001 № 1033 об объявлении постановления Правительства Российской Федерации «Об организации эксперимента по введению единого государственного экзамена».

[3] Правительство Российской Федерации. Постановление от 4 октября 2000 г. № 751 «О национальной доктрине образования в Российской Федерации».

[4] См. статью И. Фрумина в «Учительской газете», 2002, № 36, с. 38–39.

[5] См. его книгу «Педагогическое тестирование: проблемы, заблуждения, перспективы». М., 1999.

[6] Об этом неоднократно приходилось писать автору. См., например: Соколов В. М. Теоретические основы проектирования образовательных стандартов (общедидактический аспект): Автореф. дисс. на соискание ученой степени доктора педагогических наук. СПб.: С-ПГУ, 1997; Соколов В. М. Развитие системы государственных образовательных стандартов: проблемы и перспективы // Материалы II Всероссийской конференции «Подготовка научных кадров в Российской Федерации. Состояние, перспективы развития». Н. Новгород: Изд-во Нижегородского госуниверситета им. Н. И. Лобачевского, 2002. С. 246–248.

[7] «Известия–Наука». 11.10.2002. № 37.

[9] При значительной разности подходов целиком согласен с Эдуардом Днепровым («Учительская газета», 2002, № 45, 5 ноября) в том, что содержание образования нужно уменьшить, и особенно ту его часть, использовать которую в решении задач выпускных, вступительных экзаменов экзаменуемый должен, опираясь только на собственную память.

[10] Оценка по уровню сложности может быть сделана по подсчету необходимых действий, операций при решении задачи, ответе на вопрос или экспертом. Трудность оценивают по успешности решения задания в процессе тестирования. Она отражает усредненные по количеству тестируемых субъективные затруднения реальных экзаменующихся.

[11] Ковалева Г. С. Особенности национальных экзаменов в ряде стран мира // Школьные технологии. 1998. № 5. С. 166–172.