機器學習的引入為各行各業(yè)的從業(yè)人員提供了得力助手，但由此也引發(fā)了一系列問題，如：人類在信賴機器學習模型的同時如何避免對機器的依賴?尤其是在醫(yī)療等關乎人類生命健康的領域。本文作者是一名醫(yī)療行業(yè)的數據工程師，他在工作中不斷反思自己的工作給患者、醫(yī)生等相關群體帶來的影響，認為自己的工作生死攸關，需要更多地關注「人」而非「數據」。

最近，《華爾街日報》的一篇文章——《Models Will Run the World》(模型將玩轉世界)在網上流傳。我相信這種觀點在很大程度上是有道理的。機器學習算法和模型在各行各業(yè)都越來越普遍，也越來越受人信賴。但是反過來看，這導致我們花在結果審查的時間上越來越少，反而更加依賴系統給出答案。我們已經依靠谷歌、Facebook 和亞馬遜等公司來提供約會、朋友生日以及最佳產品等方面的信息。當我們從這些公司得到答案時，一些人甚至會不假思索地聽之信之。

作一名在醫(yī)療行業(yè)工作的數據工程師是一件喜憂參半的事情。在過去一年半的時間里，我花了大量的時間來開發(fā)一些產品，幫助醫(yī)護人員更好地做決定。特別針對醫(yī)療質量、醫(yī)療欺詐和藥物濫用問題。

當我在研究各種指標和算法時，我不斷地問自己一些問題：

•   這對患者的治療有何影響?

•   這對醫(yī)生的決定有何影響?

•   這會改善一個群體的長期健康狀況嗎?

在我看來，大多數醫(yī)院都像企業(yè)一樣運作，但希望他們的目標不是不碰底線就行了。我希望他們能先為病人和社區(qū)服務。如果真是這樣，那么我們構建的算法和模型就不能僅僅關注于底線了(就像其他行業(yè)一樣)。相反，他們真的需要花點時間考慮這些算法和指標對病人及其整體健康有何影響，這種衡量標準是否會以一種消極的方式改變醫(yī)生的行為?

 

 

華盛頓健康聯盟(Washington Health Alliance)很擅長從成本和醫(yī)療的角度報道改善醫(yī)療健康的各種方法，它寫了一篇報道，旨在通過減少冗余的過程來降低醫(yī)療健康成本。

事實上，我也做過類似的項目。那時我正在思考，如果一些醫(yī)生矯枉過正會產生什么后果?我相信很多醫(yī)生都會適當調整他們的治療過程。然而，要是調整過度會怎么樣呢?

如果一些醫(yī)生只是因為不想被貼上浪費的標簽而大幅改變他們的行為，最后的結果弊大于利，這樣下去會有什么后果?

醫(yī)生可能會因為擔心醫(yī)院和病人花費太多而導致他們錯過明顯的診斷嗎?或許更糟的是，未來他們可能會過度依賴模型進行診斷。就個人而言，在受到批評時我會過度糾正自己的行為，那么如何在醫(yī)生身上避免這種現象?允許人自行做出正確決定和強迫他們依賴機器思維(如谷歌地圖，有多少人真正記得自己要去的地方)之間的界限非常微妙。

 

 

但你思考是因為別人讓你思考，還是因為你知道自己在做什么?

過度關注數字而忽略病人的反饋是有風險的，這也是我個人很擔心的問題。一家銷售襯衫或烤面包機公司的模型出錯就只會影響銷售和季度目標，但醫(yī)療保健模型出錯可能意味著病人死亡或得不到適當治療。因此，創(chuàng)建一個能夠幫助我們更好地做出決策的系統可能華而不實。而作為人類的我們能否足夠自律，不依賴模型來做最終決定?

作為醫(yī)療專業(yè)人員和數據專家，我們不僅有義務幫助我們的公司，也有義務關心病人。我們不僅需要數據驅動，還需要人心驅動。

我們可能不是護士或醫(yī)生，但我們應該意識到，我們現在和將來創(chuàng)造的工具將直接影響護士和醫(yī)生的決定。作為數據工程師、數據科學家和機器學習工程師，我們有能力制造出增強醫(yī)療專業(yè)人員能力的工具，我們可以產生巨大的影響。

因為我認為，模型將慢慢開始并越來越多地玩轉我們的世界(它們已經用于貿易、醫(yī)學診斷、亞馬遜購物等)。但這意味著我們需要考慮所有的運作場景以及所有的結果，無論好壞。

原文鏈接：https://hackernoon.com/the-problem-with-machine-learning-in-healthcare-406c97cb311

標簽： 谷歌

版權申明：本站文章部分自網絡，如有侵權，請聯系：west999com@outlook.com
特別注意：本站所有轉載文章言論不代表本站觀點！
本站所提供的圖片等素材，版權歸原作者所有，如需使用，請與原作者聯系。