ЭКСПЕРИМЕНТЫ И КВАЗИЭКСПЕРИМЕНТЫ
Экспериментом мы называем ту часть исследования, которая заключается в том, что исследователь осуществляет манипулирование переменными, и наблюдает эффекты производимые этим воздействием на другие переменные. В этом очерке мы рассмотрим валидность 16 планов эксперимента в связи с 12 факторами, которые могут угрожать валидности вывода по данным эксперимента. Наша работа не является руководством по планированию эксперимента в традиции Фишера, когда экспериментатор, полностью владея ситуацией, может организовать воздействие и осуществить измерения для достижения оптимальной статистической эффективности и когда сложность плана обусловлена лишь стремлением к достижению эффективности. Сложность планов, обсуждаемых в данной работе, является следствием специфики материала и отсутствия у экспериментатора возможности полного контроля.(…)
ПОСТАНОВКА ПРОБЛЕМЫ
В 1923 г. У. Э. Мак-Кол опубликовал книгу под названием «Как проводить эксперименты в педагогике». В предисловии к ней он писал: «Существуют прекрасные учебники и руководства по статистической обработке экспериментальных данных, но мало что можно найти по методам получения адекватных относящихся к делу данных, к которым применимы статистические процедуры». Слова эти остаются справедливыми и по сей день и могут служить лейтмотивом данной работы. Хотя под влиянием работ, выполненных в традиции Фишера, ситуация в некоторых существенных отношениях изменилась, все же наиболее заметным следствием этих работ является, видимо, совершенствование статистического анализа, а не средств получения «адекватных относящихся к делу данных».
Вероятно, ввиду ее ориентации на практику и здравый смысл и отсутствия претензии на фундаментальность классическая книга Мак-Кола не была оценена по достоинству. В то время, когда она появилась, то есть за два года до первого издания книги Фишера «Статистические методы для исследователей» (1925), не было ни одной работы, которая могла бы идти хоть в какое-то сравнение с книгой Мак-Кола ни в области агробиологии, ни в психологии. Она предвосхитила ортодоксальную методологию этих областей по ряду фундаментальных вопросов. Возможно, наиболее значительным вкладом Фишера является идея уравнивания групп перед экспериментом путем рандомизации. Принять эту идею и вместе с тем отказаться от «попарного уравнивания» (способа интуитивно привлекательного, но фактически ошибочного) оказалось трудным для исследователей в области педагогики. Мак-Кол же еще в 1923 г. продемонстрировал глубокое понимание существа дела. В качестве своего первого метода формирования сопоставимых групп он предложил «группы, уравненные случаем». «Точно так же, как репрезентативность может обеспечиваться с помощью метода случайного выбора... эквивалентность может быть достигнута случайно, при условии использования достаточно большого числа испытуемых». Была предвосхищена и другая идея Фишера. Под названием «ротационного эксперимента» был предложен план латинского квадрата, который применялся Торндайком, Мак-Колом и Чепмэном как в форме 5Х5, так и 2х2 еще в 1916 г., то есть почти за 10 лет до того, как Фишер включил его в свою систему планирования эксперимента с применением рандомизации.
Способ использования Мак-Колом «ротационного эксперимента» служит прекрасным примером для выявления специфики как его книги, так и данной работы. Ротационный эксперимент был предложен не с целью достижения статистической эффективности, а, скорее, для обеспечения некоторой степени контроля в тех случаях, когда невозможно осуществить рандомизацию при формировании эквивалентных групп. Сходным образом в настоящей работе будут рассмотрены недостатки многочисленных планов эксперимента, и тем не менее будет отстаиваться их использование в тех случаях, когда невозможно применение лучших планов. В этом смысле большинство обсуждаемых здесь планов, в том числе и нерандомизированный «ротационный эксперимент», обозначаются как квазиэкспериментальные планы.
Разочарование в эксперименте
В данной работе эксперимент рассматривается как единственный способ разрешения споров о практике обучения, как единственный метод верификации усовершенствований в обучении, как единственный путь создания традиции накопления знаний, при которой каждое нововведение может быть осуществлено без опасения, что старая мудрость приносится в жертву менее совершенному, но более новому знанию. При всей нашей горячей защите экспериментирования не следует думать, что наша позиция нова. Были периоды как пессимистического отношения к возможностям эксперимента, так и энтузиазма. Можно отметить, что отход от экспериментирования к описательным работам, нередко сопровождавшийся поворотом от торндайковского бихевиоризма к гештальтпсихологии или психоанализу, совершался людьми, получившими хорошую экспериментальную подготовку.
Чтобы предупредить новые разочарования, мы должны понять некоторые причины предшествующей реакции и попытаться избежать неверных ожиданий, которые вызвали такую реакцию. Можно отметить несколько моментов. Во-первых, утверждалось, что темп и степень прогресса, которые должен был обеспечить эксперимент, оценивались слишком оптимистически, и это сопровождалось неоправданным пренебрежением к неэкспериментальному знанию. Сторонники экспериментирования считали, что прогресс в технологии обучения был медленным именно потому, что не применялся научный метод. Они рассматривали традиционную практику как несостоятельную лишь потому, что она не была основана на экспериментировании. Когда же выяснилось, что эксперименты часто оказывались скучными, двусмысленными и подчас невоспроизводимыми и подтверждали донаучные знания, чрезмерный оптимизм уступил место разочарованию, пренебрежению ими и отказу от них.
Это разочарование испытали как наблюдатели, так и участники экспериментов. Что касается экспериментаторов, то можно отметить, что у них выработалась некая реакция избегания экспериментирования. Для исследователя, обычно глубоко заинтересованного в своей работе, неподтверждение выношенной гипотезы является весьма болезненным. Экспериментатор тоже подчиняется биологическим и психологическим законам научения и связывает свои огорчения со смежными во времени событиями и стимулами. Таким стимулом станет, скорее всего, сам экспериментальный процесс, а не «истинный» источник фрустрации — неадекватная теория. Это может привести, возможно неосознанно, к избеганию или отказу от экспериментирования. Если экология нашей науки такова, что в ней неправильные ответы встречаются чаще, чем правильные (а по-видимому, так оно и есть), то мы можем ожидать, что большинство экспериментов окажется неутешительным, и мы обязаны каким-то образом подготовить начинающих экспериментаторов к этому и вообще смотреть на экспериментирование более пессимистически — не как на панацею, а как на единственно возможный путь постоянного накопления знаний. Мы должны внушить нашим ученикам, что они могут столкнуться с рутиной и разочарованиями, и воспитывать в них упорство, которое отличает в настоящее время исследователей в биологических и физических науках. Наши ученики должны примириться не только со скудостью денежных средств, но и со скудостью результатов экспериментов.
Точнее, нам необходимо более значительное время и осознание того, что длительное и многократное экспериментирование более характерно для науки, чем единичные окончательные эксперименты. Если эксперименты, которые мы проводим сегодня, являются успешными, то они нуждаются в повторении и перекрестной валидизации в другое время и в других условиях, прежде чем они смогут стать признанными данными науки и получить обоснованную теоретическую интерпретацию. Далее, хотя мы считаем экспериментирование основным средством доказательства, единственным судьей в споре конкурирующих теорий, мы, по-видимому, не должны ожидать однозначных результатов «критических» экспериментов, в которых сталкиваются соперничающие теории. Когда мы обнаружим, например, что компетентные наблюдатели защищают прямо противоположные точки зрения, то можно утверждать, почти что априорно, что оба они наблюдали нечто действительно относящееся к реальной ситуации и оба представляют часть истины. И чем сильнее противоречие, тем больше вероятность того, что так оно и есть. Поэтому в таких случаях мы можем ожидать неоднозначных результатов эксперимента или результатов, в которых истинные данные неуловимо меняются от эксперимента к эксперименту. Более зрелой позицией— а к такой в значительной мере пришла экспериментальная психология — является стремление избегать критических экспериментов и заменять их исследованиями соотношений и взаимодействий разнообразных многоуровневых экспериментальных переменных.
Не следует также недооценивать важность значительно усовершенствованных статистических методов, которые постепенно проникли в психологию и педагогику. В период наибольшего увлечения экспериментом в педагогике применялись весьма несовершенные методические средства. Мак-Кол и его современники проводили исследования с одной переменной. Ввиду огромной сложности ситуации обучения человека этот подход, оказался слишком ограниченным. Теперь мы знаем, насколько важным может быть совместное действие двух или более экспериментальных переменных. Стэнли, Стэнли и Уайли и другие указали на важность оценки таких взаимодействий.
Эксперимент может быть многомерным в следующих двух отношениях. План эксперимента может содержать более чем одну «независимую» переменную (пол, год обучения, метод обучения арифметике, тип и размер шрифта в учебнике и т. д.) и/или более чем одну «зависимую» переменную (число ошибок, скорость, количество правильных ответов, данные различных тестов и т. д.). Процедуры, введенные Фишером, многомерны в первом смысле и одномерны во втором. Специалисты по математической статистике, например Рой и Гнанадезикан, разрабатывают планы и методы анализа, объединяющие оба типа многомерных планов. Возможно, что, обратившись к ним, исследователи смогут уменьшить обычный огромный разрыв между изложением статистических методов в специальной литературе и их практическим применением в исследованиях.
Несомненно, более основательное знакомство исследователей с современной экспериментальной статистикой поможет повысить качество экспериментальных исследований.
ВИДЫ ВАЛИДНОСТИ
Проверка каузальных отношений
Эксперименты являются средством проверки каузальных гипотез. По традиции предполагается, что существуют три необходимых условия для утверждения с определенной долей уверенности о том, что отношение между двумя переменными является каузальным и что направление причинности от А к В. Первое условие относится к временной последовательности и формулируется следующим образом: причина должна предшествовать по времени эффекту. Обычно это условие соблюсти нетрудно, если исследователь знает, когда испытуемые подвергались экспериментальному воздействию. В квазиэкспериментах исследователь может сочетать такого рода влияние со своим знанием результатов испытуемых до и после экспериментального воздействия и может связать воздействие с некоторыми показателями изменения зависимой переменной. Исследователь, проводящий истинный эксперимент, знает, что соответствующая рандомизация обеспечивает, в вероятностном плане, предварительную (до введения экспериментального воздействия) эквивалентность различных экспериментальных групп. Поэтому если после экспериментального воздействия обнаружатся различия, связанные с воздействием, то он полагает, что такие различия, по всей вероятности, вызваны экспериментальным воздействием.
Второе необходимое условие для обоснованного вывода о причинной зависимости В от А состоит в том, что воздействие или воздействия должны быть статистически связаны с эффектом, так как, если возможная причина и эффект не связаны друг с другом, одно не может быть причиной другого. Для проверки существования такой ковариации используются статистические показатели; разработаны критерии для принятия решения о существовании «действительной» ковариации в результатах (например, р<0> Таким образом, статистические показатели действуют как фильтры. К, сожалению, они подвержены ошибкам даже в тех случаях, когда используются должным образом; с их помощью не всегда удается выявить как действительно существующую, так и ложную композицию ковариации. Поскольку использование статистических показателей ведет к весьма, важным решениям, разумно было бы показать те причины, которые порождают неверные выводы о ковариации. Обозначим их как угрозы для валидности статистического вывода.
Третье необходимое условие каузального вывода устоит в том, что не должно быть правдоподобного альтернативного, объяснения появления В помимо А. Это условие труднее всего соблюсти в связи с другими обстоятельствами. Первое — относящееся в основном к квазиэкспериментам — связано с валидностью альтернативных интерпретаций, которые предполагают, что кажущаяся каузальная связь А и В фактически может быть обусловлена действием третьей переменкой, кото-1 рая и вызывает изменения В. К примеру, можно Установить на фабрике новую машину и отмечать, связано ли это с ростом производительности труда. Если это так, то можно приписать это увеличение нововведению. Однако всегда существует вероятность того, что это увеличение никак не связано с новой машиной и может быть обусловлено сезонным ростом производительности, который происходит в такое время каждый год. И это только один из примеров такой третьей переменной, и в дальнейшем мы представим систематизированный перечень таких дополнительных переменных, обозначая их как угрозы для внутренней валидности.
Существование угроз для внутренней валидности наводит на мысль, что предполагаемая каузальная связь может быть лишь видимой. Это отличается от второго значения «альтернативной интерпретации», когда А, которым манипулируют, и В, которое измеряется, и в самом деле каузально связаны, но существуют сомнения, действительно ли эмпирические операции осуществляются с объектами, представленными конструктами А и В которые исследователь пытался применить для обозначения А и В. Большинство теоретических контроверсий в психологии именно такого рода — например, контроверсии о том, можно ли объяснить связь между увеличением оплаты и более высокой производительностью тем, что высокая зарплата формирует чувство неравенства или разрушает ожидания или «Я-концепцию» и т. д. В таких исследованиях речь идет не о внутренней валидности, то есть не о том, являются ли изменения в оплате причиной изменений в производительности. Скорее, это вопрос о том, как оплата должна быть выражена в терминах соответствующей теории, доступных обобщению. Другой пример: для некоторых исследователей проблема интерпретации известных хоуторнских экспериментов Ротлисбергера и Диксона заключается в обозначении того, что заставило женщин увеличить производительность труда, а не в определении того, действительно ли экспериментальное вмешательство привело к этому увеличению. Был ли каузальной переменной сам факт изменения независимо от его характера, или обратная связь, несущая информацию о поведении обследуемого и содержавшаяся в новых изменениях, или же это следствие возрастания групповой сплоченности, или следствие нового восприятия интересов руководства, или еще что-нибудь? Мы рассматриваем опасности для «конструктной валидности», которые следует понимать как угрозы для правильного обозначения причины и эффекта с помощью абстрактных терминов, взятых из обыденного языка или из формальной теории. В действительности проблемы «конструктной валидности» несколько шире и, очевидно, имеет отношение к попыткам обозначения любых аспектов эксперимента, включая характер обстановки, в которой проводится эксперимент, особенности участвующих лиц и т. д.
Стоит отметить, что термин «внутренняя валидность» в прошлом употреблялся не вполне правильно, потому что с его помощью выражали как сомнения в правильности вывода о причинных связях между А и B, так и сомнения в том, как следует обозначать причину и следствия. Такое смешение понятий может возникнуть вследствие того, что альтернативные интерпретации должны быть отброшены в процессе установления как внутренней, так и конструктной валидности.
Однако установление внутренней валидности предполагает отбрасывание альтернативных интерпретаций вероятных каузальных связей между А, которым манипулируют, и В, которое измеряется, а установление конструктной валидности предполагает отбрасывание альтернативных интерпретаций того, как А и В соотносятся с гипотетическими понятиями. Поскольку в экспериментах крайне важно выяснить, является ли связь между двумя переменными каузальной, необходимым условием для выведения заключения o кayзaльноcти является отбрасывание альтернативных интерпретаций связи между переменными (то есть устранение угроз для внутренней валидности), а не отбрасывание альтернативных интерпретаций операций с причиной и следствием (то есть угроз для конструктной валидности)
Хороший эксперимент (а) делает ясной временную последовательность; (б) достаточно чувствителен и действен для того, чтобы показать, что вероятные причина и эффект взаимосвязаны (ковариантны); (в) исключает возможность влияния третьих переменных, которыми можно было бы объяснить связь между причиной и эффектом; а также (г) исключает альтернативные гипотезы о конструктах, включенных в эту связь. Полезно сделать еще один шаг. Заключение каузальной связи в какой-то промежуток времени, в одной обстановке и при одной выборке испытуемых дает мало уверенности в том, что обнаруживаемая каузальная связь является устойчивой. Вопрос о возможности обобщения результатов для различных периодов времени, различных условий и групп мы рассматриваем как вопрос о внешней валидности, и вкратце перечислим угрозы и для этого вида валидности.
Сказанное не должно создавать впечатления, что эксперимент является единственным средством установления каузальности. Такая наука, как астрономия, развивалась без экспериментирования отчасти потому, что ей посчастливилось иметь надежные методы наблюдения и количественные теории, позволяющие предсказывать точное местоположение, точные орбиты и временные интервалы движения в пространстве. Точность численных предсказаний означает, во-первых, что предсказания могут быть проверены самым тщательным образом и, во-вторых, что различные теории, на основе которых делаются различные численные предсказания, могут быть противопоставлены друг другу. Это не значит, что в астрономии решены все проблемы валидности или что исследователь может отказаться от детального анализа всех возможных альтернативных гипотез и тщательного сопоставления их с данными для того, чтобы выяснить, могут ли они быть отброшены. Мы хотим сказать только, что было бы меньше угроз валидности, если бы измерения были такими же надежными, как в астрономии, а теории столь же точными.
К сожалению, социальным наукам не посчастливилось иметь столь же точные теории, столь же надежные измерения или повторяющийся циклический порядок в результатах наблюдений. Представьте себе, что обнаружено различие в производительности труда работника до и после того, как он прошел специальное обучение. Как мы можем определить, что в этом различии следует отнести за счет собственно обучения, что за счет естественного: развития работника, или улучшений в навыке выполнения задания при обследовании, или в результате различных событий в жизни человека, которые оказывают влияние на зависимую переменную между предварительным тестированием и тестированием после экспериментального воздействия, и что объясняется любым сочетанием этих факторов? Более того, даже если бы мы могли определить конкретные численные величины, связанные с каждым из перечисленных выше объяснений, можно ли быть уверенными в том, что нам удастся измерить соответствующие результаты с такой надежностью, которая позволила бы осуществить выбор между теориями? Ответ на эти вопросы; зависит, конечно, от величины предсказываемых различий в приросте производительности труда и от конкретного вида проверки. Мы полагаем, однако, что в социальных науках найдется не много неэкспериментальных условий, в которых точные предсказания могли бы быть с успехом использованы для проверки конкурентных гипотез.
Хотя предшествующее изложение наводит на мысль, что эксперименты более пригодны для проверки предположений о причинности, чем неэкспериментальные исследования, из этого не следует делать вывод, что эксперименты являются надежным средством получения ответов на все вопросы, связанные с проверкой гипотез о каузальных связях. Перечень угроз внутренней и внешней валидности, валидности статистического вывода и конструктной валидности, а также выявление взаимосвязей между этими видами валидности делают очевидным несовершенство экспериментирования. Экспериментальные планы нуждаются в улучшении, могут и должны быть улучшены, чтобы способствовать установлению каузальной зависимости. Но мы заблуждались бы, если бы считали, что один эксперимент или даже целая исследовательская программа, рассчитанная на несколько лет, могли бы дать окончательный ответ на основные вопросы, связанные с надежным установлением каузальной связи, обозначением ее составляющих и определением возможности обобщения вывода.
Факторы, угрожающие внутренней и внешней валидности
В следующих разделах приводится 12 факторов, угрожающих валидности различных экспериментальных планов. Каждый фактор будет подробнее описан при обсуждении тех планов, в которых его действие проявляется наиболее отчетливо, и этот список будет завершен после обсуждения 10 из 16 планов. Основным при составлении этого списка было различение внутренней и внешней валидности.
Внутренняя валидность — это тот минимум, без которого не может быть интерпретирован ни один эксперимент: действительно ли именно это экспериментальное воздействие привело к изменениям в данном эксперименте? Внешняя валидность относится к возможности обобщения вывода на какие популяции, ситуации, другие независимые переменные, параметры воздействия и переменные измерения могут быть распространены результаты эксперимента. Несомненно, что оба типа критериев являются важными, хотя часто они находятся в противоречии в том смысле, что увеличение валидности одного типа может угрожать валидности другого типа. Хотя внутренняя валидность есть условие sine qua non (непременное условие (лат)) и хотя проблема внешней валидности, как и проблема индуктивного вывода, никогда не может быть полностью решена, очевидно, что нашим идеалом является выбор таких экспериментальных планов, которые обеспечивают оба типа валидности. Это особенно важно для педагогических исследований, где весьма желательным является распространение данных на практические ситуации, определенного характера. Различия и взаимоотношения между этими двумя видами валидности станут яснее после рассмотрения примеров при обсуждении конкретных типов эксперимента.
Далее будут представлены восемь различных классов внешних переменных, относящихся к внущенней валидности. Если эти переменные не контролируются в экспериментальном плане, то они могут дать эффекты, которые смешиваются с эффектом экспериментального воздействия. Эти переменные представляют влияние:
1) фона (history)—конкретных событий, которые происходят между первым и вторым измерением наряду с экспериментальным воздействием;
2) естественного развития (maturation) — изменений испытуемых, являющихся следствием течения времени per se (не связанных с конкретными событиями), например взросление, усиление голода, усталости и т. п.;
3) эффекта тестирования (testing)—влияния выполнения заданий, применяемых для измерения, на результаты повторного испытания;
4) инструментальной погрешности, нестабильности измерительного инструмента (instrumentation), при которой изменения в калибровке инструмента или изменения, характеризующие наблюдателя или оценочные показатели, могут вызвать изменения в результатах измерения;
5) статистической регрессии (statistical regression), имеющей место тогда, когда группы отбираются на основе крайних показателей и оценок;
6) отбора испытуемых (selection) — неэквивалентности групп по составу, вызывающей появление систематической ошибки в результатах;
7) отсева в ходе эксперимента (experimental mortality) — неравномерности выбывания испытуемых из сравниваемых групп;
8) взаимодействий фактора отбора с естественным развитием и др., которые в ряде квазиэкспериментальных планов с несколькими группами (таких, как план 10) ошибочно принимаются за эффект экспериментальной переменной.
К факторам, ставящим под угрозу внешнюю валидность, или репрезентативность эксперимента, относятся:
9) реактивный эффект, или эффект взаимодействия тестирования,— возможное уменьшение или увеличение сензитивности, или восприимчивости, испытуемых к экспериментальному воздействию под влиянием предварительного тестирования. Результаты лиц, прошедших предварительное тестирование, будут нерепрезентативны по отношению к тем, кто не подвергался предварительному тестированию, то есть тем, из кого состоит генеральная совокупность, из которых были отобраны испытуемые;
10) эффекты взаимодействия фактора отбора и экспериментального воздействия;
11) условия организации эксперимента, вызывающие реакцию испытуемых на эксперимент, которая не позволяет распространить полученные данные о влиянии экспериментальной переменной на лиц, подвергающихся такому же воздействию в неэкспериментальных условиях;
12) взаимная интерференция экспериментальных воздействий, нередко возникающая, когда одни и те же испытуемые подвергаются нескольким воздействиям, поскольку влияние более ранних воздействий, как правило, не исчезает. Это относится особенно к планам экспериментов с одной группой (планы типа 8 и 9).
Для представления различных характеристик экспериментальных планов в дальнейшем будет применяться постоянная система графических и символических обозначений. Символ Х будет обозначать экспериментальную переменную или событие, влияние которого подлежит измерению; символ О — некоторый процесс наблюдения или измерения; Х и О, стоящие в одной строке, относятся к одним и тем же конкретным лицам. Направление слева направо обозначает временной порядок, а расположение Х и О одно под другим — одновременность. Для обозначения важных различий, например между планами 2 и 6 или между планами 4 и 10, используется символ R, указывающий на случайное распределение испытуемых по разным режимам эксперимента (то есть по различным группам). Предполагается, что такая рандомизация осуществляется в определенное время и служит универсальным методом уравнивания групп перед введением воздействия в известных статистических границах. Наряду с этим вводится дополнительная графическая символика: параллельные строки, не разделенные пунктирной линией, представляют группы, уравненные посредством рандомизации, тогда как сопоставляемые группы, не уравненные рандомизацией, отделяются друг от друга пунктирной линией. Не предусматривается никакого символа для обозначения групп, сформированных путем попарного уравнивания, поскольку ценность этой процедуры слишком переоценивается и она чаще ведет к ошибочному выводу, чем служит средством достижения валидного вывода. (См. далее обсуждение плана 10 и последний раздел по корреляционным планам.) Символ М для обозначения материалов будет использован в плане 9.