デューク大学の敗血症AIは病院の階層を逆転させることで機能した：看護師が医師に警告する

敗血症は急速に命を奪う。デューク・ヘルスの答えがSepsis Watchだった。iPadアプリとして提供されるAIで、救急部門の全患者を1時間ごとに敗血症発症の可能性について採点し、中リスク・高リスクの患者に加えてすでに基準を満たす患者を抽出し、医師の確認後に迅速な治療へと導く。最初の2年間で、デュークの病院管理者と臨床医は、このツールが敗血症による患者死亡を劇的に減らしたと報告し、連邦登録された臨床試験にも入り、2021年に結果が報告される見込みだった。

文化人類学者マデリン・クレア・エリッシュとエリザベス・アン・ワトキンスによる2年間のData & Society研究によれば、技術的な勝利は物語の半分にすぎない。このツールを機能させるには、彼らが「修復作業」と呼ぶものが必要だった。新しいコミュニケーションプロトコルの設計、研修資料の作成、職場の政治の乗り越えである。最も深い変化は権限だった。診断を行うのは伝統的に医師だが、医師は別のアプリを監視できなかった。迅速対応看護師ならできた——そこで看護師が担当医に電話をかけ、患者に対する自らの見立てに異議を唱えるようになった。

そのプロトコルは典型的な指揮系統を逆転させ（「冗談でしょ？」とある看護師は最初に反応した）、関与した看護師と担当医はしばしば事前の関係がなく、病院の異なる部門で働いていた。それでもデュークは修復を行った——そしてこの事例が成果の要因として挙げるのは、モデルだけでなく修復そのものである。

モデルは簡単な半分だった。機能したのは、デュークが看護師にスコアを監視させ、担当医に直接電話をかけることを許したからだ——病院の指揮系統を逆転させたのである。

これは組織にAIを導入する際の隠れたコストを名指ししている。「混乱もまた一種の破損である」——古いプロトコルは死に、階層はかき乱され、誰かがそれを修復しなければならない。

設計上の動きは医療にとって直感に反する。看護師が監視の負担を担い、医師に電話をかける立場を得る——1時間ごとの採点サイクルに耐えられる唯一のワークフローである。

両方の半分について実世界の証拠がある——実践における敗血症死亡の減少報告と、登録された臨床試験——これにより、稀なほど正直なAI実運用のケーススタディとなっている。

AIの導入は社会的労働である。プロトコルの再設計、スタッフの研修、権力力学の乗り越えが、モデルを成果に変える。年功序列を逆転させることになっても、適合するワークフローにツールを渡すべきである。

Sepsis Watchは連邦登録された臨床試験の一部となり、2021年に結果を共有する見込みだった。またData & Societyのケーススタディは、デューク・ヘルスでAIツールを日常の臨床使用に持ち込むための記録された代償として、修復作業の知見——新しいコミュニケーションプロトコル、研修資料、交渉された権力力学——を公表した。