敗血症致命迅速,而杜克健康(Duke Health)的對策是Sepsis Watch:一套以iPad應用程式形式交付的AI,每小時為每位急診病人評分,評估其發生敗血症的可能性,標記出中風險與高風險病人,以及已符合診斷標準者,並在醫師確認後將其轉介以接受快速治療。在最初兩年,杜克醫院的醫院管理者與臨床醫師報告,該工具有效大幅減少了敗血症導致的病人死亡,且該工具已進入一項聯邦註冊的臨床試驗,預計於2021年公布結果。

根據文化人類學家Madeleine Clare Elish與Elizabeth Anne Watkins為期兩年的Data & Society研究,技術上的勝利只是故事的一半。要讓這項工具奏效,需要他們所謂的「修補工作」(repair work):設計新的溝通協議、撰寫訓練教材,並在職場政治中周旋。最深刻的改變是權限。傳統上由醫師做出診斷,但醫師無法隨時監看另一個應用程式;快速反應護理師則可以——因此如今由護理師致電主治醫師,質疑其對病人的判讀。

這套協議顛倒了典型的指揮鏈(「你在開玩笑吧?」是其中一名護理師的第一反應),而參與其中的護理師與主治醫師往往原本毫無關係,因為他們分別在醫院的不同部門工作。杜克仍然完成了這項修補——而這個案例將成果歸功於修補,而不只是模型。

模型是容易的那一半:它能奏效,是因為杜克讓護理師監看評分並直接致電主治醫師——顛倒了醫院的指揮鏈。

它點出了在機構中部署AI的隱藏成本:「顛覆也是一種損壞」——舊協議消亡、階層被打亂,而必須有人加以修補。

這項設計之舉對醫學而言違反常理:護理師承擔監看的重擔,並取得致電醫師的資格——這是唯一能在每小時評分節奏下存續的工作流程。

兩方面都有真實世界的證據——實務上據報減少了敗血症死亡,加上一項註冊臨床試驗——使其成為罕見而誠實的AI投入生產案例研究。

採用AI是社會性勞動:重新設計協議、訓練員工並在權力動態中周旋,才能把模型轉化為成果。把工具交給最合適的工作流程,即使這會顛倒資歷順序。

Sepsis Watch成為一項聯邦註冊臨床試驗的一部分,預計於2021年分享結果;而Data & Society的案例研究則發表了修補工作的發現——新的溝通協議、訓練教材以及經協商的權力動態——作為讓AI工具進入杜克健康日常臨床使用的有據可查代價。

追溯依據

參考來源

  1. How an AI tool for fighting hospital deaths actually worked in the real world MIT Technology Review · technologyreview.com ·