解決方案
2013年10月,麥爾坎·葛拉威爾的新書《大衛與歌利亞》以一個引人注目的前提開場:面對壓倒性的劣勢能造就偉大與美。書中其中一個例子取自2007年的一項研究,該研究聲稱,以難以辨讀的字體閱讀推理問題的人,得分高出29%——這是一個違反直覺、卻具有立即實用吸引力的結果。
克里斯多福·柴布里斯是心理學教授,他為《華爾街日報》評論此書時,並未與這個故事爭辯;他翻開了這個故事所依據的那項研究。該論文涉及40人,每種字體20人,全數為普林斯頓大學學生——這些事實葛拉威爾並未提及。當其他研究者在加拿大一所公立大學以近300名學生嘗試同樣的測試時,他們無法重複驗證該效果。該書論點最具代表性的例子,一經檢視便告瓦解。
這番解構之所以具有普遍意義,是因為這個模式並不陌生。柴布里斯寫道,這個缺陷貫穿葛拉威爾的著作:他擅長講述看似合理的解釋性故事,並挑選科學來支持這些故事。四年前,史蒂芬·平克在《紐約時報》的評論中,為一位對某個主題的認識僅止於訪談專家的作家,創造了「伊貢價值問題」一詞。即便是讚賞者也承認事實居於次要;葛拉威爾本人曾告訴採訪者,他是一位說故事的人,會借助研究來增進說故事的效果,而覺得他的書過於簡化的讀者並非他的目標讀者。
這個案例是一個可遷移的檢查方法。令人驚訝的統計數字應追溯至其原始論文,在那裡,樣本量、樣本群體和重複驗證的歷史都清楚可見。四十人無法承載一條人類行為的定律,而一個在近300人中都無法重現的效果,根本算不上定律。
它達成了什麼
不要與故事爭辯——翻開被引用的研究;樣本量、抽樣對象以及是否有人重複驗證,正是揭露挑選科學的破綻所在
為何奏效
原始論文回答了引人入勝的轉述所迴避的兩個問題:研究了多少人,以及他們是誰。
重複驗證失敗是決定性的證據,表明某個效果並不穩健,無論原始論文怎麼說。
由於這個缺陷位於該書最具代表性的例子中,且符合多年前已記錄的模式,一則軼事揭露的是一種方法,而非一次性的錯誤。
這項檢查除了閱讀之外不費分文:無需進行新實驗,就能表明每種字體20名普林斯頓學生無法支撐一個宏大的主張。
可應用之處
在重複一項令人驚訝的研究主張之前,先追溯至原始論文,檢查樣本、群體和重複驗證情況;一個被揭露的挑選案例,會玷污說故事者提出的所有其他主張。
後續
柴布里斯將這篇評論擴充為一篇部落格文章《為何麥爾坎·葛拉威爾重要(以及為何這很不幸)》。麻省理工學院的奈特科學新聞追蹤者推廣了這個案例,相關論點登上Hacker News,獲得370分和222則留言。葛拉威爾本人的話——一位借助研究來增進說故事效果的說故事者,以及書籍對某些讀者而言過於簡化——被批評者解讀為印證。持久的成果是一項經示範的技巧:當一本暢銷書引用一項令人驚訝的研究時,檢查其樣本和重複驗證情況只需幾分鐘,卻可能使整個故事瓦解。
追溯依據
參考來源
- Should we stop believing Malcolm Gladwell? Knight Science Journalism Tracker, MIT · ksj.mit.edu ·
- Should we stop believing Malcolm Gladwell? — Hacker News Hacker News · news.ycombinator.com ·