В прошлом году статья от 28 августа 2015 поставила под сомнение воспроизводимость психологических исследований. Исследователи из Гарвардского университета опровергли эти выводы.
Статья, опубликованная ассоциацией Открытого Научного Сотрудничества (ОНС) (Исследование: ААС 4716), наделала много шума. Пытаясь воспроизвести 100 оригинальных исследований 2008 года, ассоциации удалось повторить от 36 до 47% первоначальных исследований. Этот результат привел многих к выводу о существующем кризисе репликации или воспроизводимости психологических исследований и экспериментов, а, значит, вызывает сомнение достоверность научных работ по этой дисциплине.
Теперь же исследователи из Гарвардского университета нашли в данной статье три статистических ошибки. Дэниел Гилберт, один из авторов исследования, сказал: «В действительности, данные согласуются с противоположным выводом, а именно, что воспроизводимость результатов психологической науки достаточно высока».
Ошибок в этой статье было множество. Например, оригинальное исследование, которое измеряет отношение американца к афро-американцу, была воспроизведено на группе итальянцев, которые не разделяют одни и те же представления и стереотипы. Оригинальное исследование, где студентов колледжа попросили представить профессора колледжа, было воспроизведено с участниками, которые никогда не были в колледже, и т.д.
Гилберт также сказал: "Если исходное исследование сообщает истинный зафиксированный эффект, и если исследование репликации использует оригинальную процедуру с новой выборкой испытуемых, взятых из исходной популяции, репликация может иногда не повторить оригинальный эффект из-за ошибки выборки".
Другими словами, критерий выборки испытуемых во многих исследованиях предполагает один единственный способ формирования, в котором исследователи ассоциации пренебрегли, и их способ формирования отличался от первоначальных исследований и от исходной популяции испытуемых.
Авторы опровержения из Гарварда отмечают, что попытки ассоциации воспроизвести исследования отличались от оригинальных исследований. Так, многие из исследований, реплицируемых OНС, использовали иные процедуры, которые отличаются от процедур оригинальных исследований существенными образом:
- оригинальное исследование, в котором израильтян попросили представить себе последствия военной службы, было воспроизведено среди жителей США с просьбой представить себе последствия медового месяца;
- оригинальное исследование, которое ставило перед детьми младшего возраста трудную задачу обнаружения целей на большом экране, было воспроизведено среди детей старшего возраста с постановкой более легкой задачи по обнаружению целей на маленьком экране;
- оригинальное исследование, которое показало, как изменения в формулировках благотворительного объявления могут повысить уровень положительного ответа, и которое было переслано по почте корейцам, было воспроизведено путем отправки 771 408 сообщений по электронной почте людям по всему миру (в итоге, они сделали вывод, что скорость отклика близка к нулю во всех условиях).
Статья, опубликованная ассоциацией Открытого Научного Сотрудничества (ОНС) (Исследование: ААС 4716), наделала много шума. Пытаясь воспроизвести 100 оригинальных исследований 2008 года, ассоциации удалось повторить от 36 до 47% первоначальных исследований. Этот результат привел многих к выводу о существующем кризисе репликации или воспроизводимости психологических исследований и экспериментов, а, значит, вызывает сомнение достоверность научных работ по этой дисциплине.
Теперь же исследователи из Гарвардского университета нашли в данной статье три статистических ошибки. Дэниел Гилберт, один из авторов исследования, сказал: «В действительности, данные согласуются с противоположным выводом, а именно, что воспроизводимость результатов психологической науки достаточно высока».
Ошибок в этой статье было множество. Например, оригинальное исследование, которое измеряет отношение американца к афро-американцу, была воспроизведено на группе итальянцев, которые не разделяют одни и те же представления и стереотипы. Оригинальное исследование, где студентов колледжа попросили представить профессора колледжа, было воспроизведено с участниками, которые никогда не были в колледже, и т.д.
Гилберт также сказал: "Если исходное исследование сообщает истинный зафиксированный эффект, и если исследование репликации использует оригинальную процедуру с новой выборкой испытуемых, взятых из исходной популяции, репликация может иногда не повторить оригинальный эффект из-за ошибки выборки".
Другими словами, критерий выборки испытуемых во многих исследованиях предполагает один единственный способ формирования, в котором исследователи ассоциации пренебрегли, и их способ формирования отличался от первоначальных исследований и от исходной популяции испытуемых.
Авторы опровержения из Гарварда отмечают, что попытки ассоциации воспроизвести исследования отличались от оригинальных исследований. Так, многие из исследований, реплицируемых OНС, использовали иные процедуры, которые отличаются от процедур оригинальных исследований существенными образом:
- оригинальное исследование, в котором израильтян попросили представить себе последствия военной службы, было воспроизведено среди жителей США с просьбой представить себе последствия медового месяца;
- оригинальное исследование, которое ставило перед детьми младшего возраста трудную задачу обнаружения целей на большом экране, было воспроизведено среди детей старшего возраста с постановкой более легкой задачи по обнаружению целей на маленьком экране;
- оригинальное исследование, которое показало, как изменения в формулировках благотворительного объявления могут повысить уровень положительного ответа, и которое было переслано по почте корейцам, было воспроизведено путем отправки 771 408 сообщений по электронной почте людям по всему миру (в итоге, они сделали вывод, что скорость отклика близка к нулю во всех условиях).