보잉, 조종사가 경고를 신뢰하도록 조종석 경보를 제한하다 — 전체 비행의 10% 미만에서만 경보음이 울린다

16세 환자가 39배에 달하는 약물 과다복용에서 살아남은 사례를 다룬 2015년 에세이에서, 의사 밥 왁터는 병원이 경보 피로 — 직원을 오도하거나 요란한 소리에 묻혀 아무도 듣지 않게 되는 전자 경고 — 에 관해 항공에서 무엇을 배울 수 있는지 물었다. 항공의 답은 어렵게 쌓아 올린 것이었다. 초기 '기어 다운' 경고는 스로틀에 연결되어 조종사가 비행기를 감속할 때마다 거짓으로 울렸고, 그래서 승무원들은 그것을 분리하는 법을 익혔으며 — 그러다 실제일 때도 경고를 무시하게 되었다. 727 초기 시절에는 경보가 너무 잦고 틀려서 조종사들이 차단기를 뽑아버렸다.

보잉의 해결책은 우선 조직적이다. 한 팀이 조종석 전체의 통합을 담당하고 제안된 모든 경보를 심사한다. 창문 열선 엔지니어가 출시하고 싶어 하는 25개의 메시지를 가져오면 조종사들은 '우리는 관심 없어요!'라고 말한다 — 그중 어느 것도 조종석에 들어가지 못한다. 경고는 엄격한 위계로 배분된다. 빨간 불, 빨간 텍스트, 음성, 조종간 흔들림은 임박한 재앙에만 사용되고, 약 40개의 경고가 빨간색과 음성을 받으며, 대략 150개의 주의가 황색과 한 가지 방식만 받고, 권고는 들여쓴 한 줄의 텍스트를 받는다. 빨간색은 최상위 경고 외에는 절대 사용되지 않으며, 각 경보는 그에 맞는 체크리스트를 띄운다.

그 결과, 경고든 주의든 권고든 어떤 경보라도 발생하는 비행의 비율은 10퍼센트 훨씬 아래이며, 이는 비행당 1만 개 이상의 데이터 포인트를 기록하는 항공기에서의 수치다. 중환자실의 경보 밀도를 보고, 보잉의 조종석 통합 책임자는 '이런, 세상에'라고 말할 수밖에 없었다.

침묵을 기본값으로 삼는다. 중앙 팀이 조종석 전체의 모든 경보를 담당하고, 빨간색은 오직 '지금 행동하라, 그렇지 않으면 추락한다'만을 의미하며, 하위 시스템 엔지니어들의 바람은 무시된다.

거짓 양성은 경고 시스템에 할 수 있는 최악의 일이다 — 그것은 사람이 무시하도록 훈련시키며, 항공은 사고를 통해 그것을 배웠다.

중앙 소유는 하위 시스템의 로비보다 낫다. 조종석 전체에 책임이 있는 팀만이 각 부품 엔지니어가 원하는 25개의 메시지를 거절할 수 있다.

엄격한 희소성이 신호를 보존한다. 어떤 경보든 전체 비행의 10퍼센트 미만에서만 발생하면, 울리는 경보는 실제로 의미를 지닌다.

일관된 문법 — 빨간색, 황색, 들여쓴 텍스트, 짝을 이룬 체크리스트 — 은 조종사가 매번 다시 판단하지 않고 한눈에 심각도를 파악하게 한다.

모든 추가 경고는 신뢰를 소모한다. 경보를 중앙에서 예산화하고, 무자비하게 순위를 매기며, 거짓 양성을 시스템의 독으로 취급하라.

왁터의 연재는 병원이 항공의 비극이 강제로 구축하게 만든 규율 — 우선순위가 매겨진 경보, 무자비한 필터링, 전담 소유 — 을 도입하라고 촉구하며 끝났다. 의학의 경보 밀도에 직면한 보잉 엔지니어들은 경악했다.