듀크의 패혈증 AI, 병원 위계를 뒤집어 작동하다: 간호사가 의사에게 경고하다

패혈증은 빠르게 사람을 죽이며, 듀크 헬스의 답은 Sepsis Watch였다: 매시간 응급실 환자 전원의 패혈증 발병 가능성을 점수화하고, 중위험 및 고위험 환자와 이미 기준을 충족한 환자를 표시하며, 의사가 확인하면 신속 치료로 연결하는 iPad 앱으로 제공되는 AI다. 첫 2년 동안 듀크의 병원 관리자와 임상의들은 이 도구가 패혈증으로 인한 환자 사망을 극적으로 줄였다고 보고했으며, 이 도구는 2021년에 결과 보고가 예상되는 연방 등록 임상시험에 들어갔다.

기술적 성과는 이야기의 절반에 불과하다고 문화인류학자 매들린 클레어 엘리시와 엘리자베스 앤 왓킨스의 2년간의 Data & Society 연구는 전한다. 이 도구를 작동시키려면 그들이 '수리 작업'이라고 부르는 것이 필요했다: 새로운 의사소통 프로토콜을 설계하고, 교육 자료를 작성하고, 직장 내 정치를 헤쳐나가는 일이다. 가장 깊은 변화는 권한이었다. 전통적으로 진단은 의사가 내리지만 의사는 또 다른 앱을 모니터링할 수 없었다. 신속대응 간호사는 할 수 있었다 — 그래서 이제 간호사가 담당 전문의에게 전화해 환자에 대한 자신의 판단에 이의를 제기한다.

그 프로토콜은 전형적인 명령 체계를 뒤집었고('농담이시죠?'가 한 간호사의 첫 반응이었다), 관련된 간호사와 담당 전문의들은 병원의 다른 부서에서 일해 온 경우가 많아 사전 관계가 없는 경우가 많았다. 듀크는 그래도 수리 작업을 했다 — 그리고 모델만이 아니라 수리 작업이 바로 이 사례가 성과의 공으로 꼽는 것이다.

모델은 쉬운 절반이었다: 듀크가 간호사로 하여금 점수를 지켜보고 담당 의사에게 직접 전화하게 했기 때문에 작동했다 — 병원의 명령 체계를 뒤집으면서.

이는 기관에 AI를 배치할 때의 숨은 비용을 지목한다: '혼란은 또한 일종의 파손이다' — 오래된 프로토콜은 죽고 위계는 뒤죽박죽이 되며, 누군가는 그것을 수리해야 한다.

설계상의 선택은 의학에서는 직관에 반한다: 간호사가 모니터링 부담을 지고 의사에게 전화할 수 있는 지위를 얻는다 — 매시간 점수화 주기를 견디는 유일한 워크플로다.

실제 세계의 증거가 양쪽 모두에 존재한다 — 실제 진료에서 패혈증 사망 감소가 보고되었고, 등록된 임상시험도 있다 — 이는 이를 드문 정직한 AI 실전 사례 연구로 만든다.

AI 도입은 사회적 노동이다: 프로토콜을 재설계하고, 직원을 교육하고, 권력 역학을 헤쳐나가는 일이 모델을 성과로 바꾼다. 연공서열을 뒤집더라도 도구를 가장 잘 맞는 워크플로에 맡겨라.

Sepsis Watch는 2021년에 결과를 공유할 것으로 예상되는 연방 등록 임상시험의 일부가 되었고, Data & Society 사례 연구는 듀크 헬스에서 AI 도구를 일상 임상 사용으로 끌어들이는 데 든 문서화된 대가로서 수리 작업의 발견 — 새로운 의사소통 프로토콜, 교육 자료, 협상된 권력 역학 — 을 발표했다.