在推出一個多月後,阿里的此項“新冠肺炎 AI 診斷技術”已經開始向全球醫院推廣。廣告原文如下:
準確率達 96% 以上
這裏先不細究 96% 的準確率從何而來。做過 AI 的都知道統計數據的水有多深,想要好看數據有的是辦法。
也不討論到底能省去多少醫生負擔,甚至說在某些情況下是否會反而增加醫生負擔。
這裏只討論責任問題。
畢竟這是醫療,責任重大,更不用說是新冠肺炎這一傳染性極大的疾病。
想象一個實際病例:病人來到醫院,醫生在病人不知情的情況下采用這項輔助技術,醫生省去了個人分析判斷的一步,直接採用了該 AI 診斷系統的結論——不是新冠。於是進行一般肺炎的治療,既沒有進行隔離、醫護也沒有額外防護。但是不幸,這位病人是那 4% 中的一位,也就是的確是新冠而被誤診爲不是,而這個結論直到該病人使用各種常用藥無效而迅速進入危重狀態,才被懷疑、檢測、和確認。
不僅病人治療被這段時間延誤,所有接觸的同房病人、醫護、照顧人員也都有傳染的可能。
那麼,這個責任,是由誰來負?
不可能由病人來負。
如果,是診斷醫生來負,那麼這套系統對於醫生來說就是毫無用處的。因爲他們不可能冒着這個風險而跳過自己分析診斷的這一原本就要做的環節,而這個 AI 診斷只是徒增噪音和干擾而已。
那麼,就是該 AI 診斷系統的開發商來負?該不能用一句”AI 本來就不能達到 100%準確率,即使醫生也不能“來爲自己開脫吧?因爲這樣最後負責的仍然是醫生。
即使,開發商真的承擔所有財務方面的賠償,所有被影響人員的傷痛、對社會抗疫的負面影響、醫生和醫院的名譽傷害,將是無法挽回的。
我當然希望 AI 相關技術能夠造福大衆。
但只看一個統計數據,就盲目信任和推廣一個 AI 技術,絕不是正確的思維方式。