【明報專訊】科技發展下愈來愈多醫療程序由人工智能（AI）輔助，新加坡南洋理工大學高級副校長（健康及生命科學）沈祖堯上周六（29日）在香港科學館的公眾講座談AI與醫學發展，他以微軟創辦人比爾蓋茨（Bill Gates）近日提到10年後人類將不再需要醫生及教師引起思考，稱醫療AI工具較人類優勝，可取代很多工序，「但在醫療上唯一暫時不能被取代的，是我們的人性」。他寄語未來有意從醫者，若只有醫學上的科學知識，一定會被取代。
明報記者 鄭律銘
沈祖堯是腸胃肝臟科專科醫生，他說AI已在多方面較人類優勝，以內窺鏡檢查大腸瘜肉為例，部分在若干年後有癌症風險、部分則屬良性，較安全做法當然是全部瘜肉摘除，只割一兩粒問題不大，然而若瘜肉以千粒計，「有殺錯無放過」則有風險，可致出血亦可能割穿腸道，利用AI協助就可作精準診斷。他解釋，每粒瘜肉影像均可放大500倍，可見到微細血管及皮層，運用計算機視覺技術（computer vision）分析比對上百萬張相片後，AI系統可判斷瘜肉的尺寸、在皮層下的深度，辨別惡性、良性轉為惡性的風險如何。
沈續稱，操刀內窺鏡手術，醫生須眼力好、手要定、動作細緻，亦要具備經驗及學識，他笑稱，「今日再叫我做這些手術，可能我手都有些震，我已不太能看清楚導線（guidewire）的位置，但是人工智能不會衰老，可能可以補足很多人類的限制」。AI固然有其利處，但沈說當中有多個隱憂，人類需要思考如何面對。
「人工智能愈叻 人類愈蠢」
「當人工智能愈來愈叻的時候，其實人會愈來愈蠢。」他解釋，技術進步，人類或喪失本來懂得做的事，「deskilling（技術喪失）的過程是一個問題」。他以切盲腸手術為例，現時已普遍微創開刀，但一旦有失誤，醫生仍需用傳統方法處理，「但如醫生忘記怎麼做了，因為已經很久沒人做過打開肚子來做，這樣你就出事了，是不是？」
數據質素亦會影響AI系統的可靠程度，沈舉例，一個用於診斷糖尿病人的系統，如數據集中在富人區蒐集，當用於診斷窮人時就未必有可信結果。同時多個倫理道德問題，社會未有共識如何解決，他舉例，包括治病過程若涉及運用AI診斷，病人需否知情；將病人數據用於AI訓練，又需否取得病人同意等。
相關文章：HKWI拓AI婦女影像診斷服務 吸納醫護專才 凝聚團隊 貼心服務迎10周年
科技發展勢不可擋，沈就AI能否取代醫生及護士提出思考。他笑言曾向聊天機械人ChatGPT問此問題，系統就回應「我相信今日我們（AI）未能完全可以取代」，並解釋「主要原因我們（AI）沒有同理心」。
沈回想初出茅廬，「如果我止某病人的血、取出了腫瘤，我就覺得最好他快些出院騰出病牀，讓我可收下一個病人」，他自認為已將病人醫治得很好，但對方出院時「一些感激的氣氛都沒有」。沈後來反思到作為醫者，關鍵不僅在於有否治好病人，「一些病人第一次看病已知我不能令他完全痊癒，我與他走完人生最後一段路，到我認為什麼都做不好時，對方卻很感激。因為他覺得你作為醫生即使束手無策，但願意尊重他作為一個人」。
「醫療既是科學亦是藝術」
沈形容，很多醫療工序可被AI取代，但唯一暫時不能被取替的是「人性」。他形容醫療既是「科學亦是藝術」（both a science and an art），寄語未來有意從醫者：「如果你只有science那一面，你一定被取代……你要兩樣東西都兼顧的時候，這就是你仍然有存在價值的一刻。」
相關文章：城大數據科學學院 課程跨界融合 成就兼備AI數據科學專才 各領域盡展潛能
機長副駕關係喻AI出錯問責 「醫生應掌最終決策權」
【明報專訊】現時不少醫學程序已可借助AI工具處理，例如是助醫生判斷大腸瘜肉是否惡性、審視藥物之間有否交互反應等。醫生若有醫療失誤可由醫務委員會監督，但如AI出錯向誰問責，屬重要倫理問題之一。新加坡南洋理工大學高級副校長（健康及生命科學）沈祖堯昨出席公眾講座回應提問，他認為醫生與AI醫療工具應分別是機長與副駕駛關係，醫生應掌「最終決策權」。
沈祖堯表示，不少研究曾向普羅大眾問意見，在醫療程序使用AI，如有醫療事故，責任由誰承擔，「大部分人答案都認為是醫生」。因此，他認為較理想模式是科技輔助，但最終仍由醫生做判斷。他以無人駕駛為例，駕駛座上不一定要有人，但設計上仍要留有軚盤、油門及煞車腳踏，「當系統出錯，準備衝落山時，仍預留空間讓人可以取回系統手動的控制權，由人去承擔最後責任」。
他形容，醫療體系的安排亦應類同，並按人為操控程度分不同等級；有更多控制權，所需承擔責任就更多。「理論上完全沒人為控制，醫生只是坐着拖住病人的手的話，（醫生）就沒理由需要承擔責任，但我們不希望這種情况發生。」
AI代工 醫者須辨系統良莠
操刀技術必然荒疏 核心知識必須維持
未來醫生將無可避免更多地使用AI，沈表示，因此現時醫學訓練，愈來愈着重學生要對數據分析及AI有起碼認識。他說，不需要所有醫生懂得編程，但要有能力判斷AI系統優劣，如某模型用了較差的數據訓練，要能夠判斷不應取信。醫生亦要能夠處理使用AI可能產生的倫理問題。
至於在AI輔助下，部分醫療程序毋須再由醫生處理，沈表示，「deskilling（技能喪失）將必然發生」，暫未能完全解決。但他以數學運算比喻，當計數機故障時，仍要確保運算者「懂用九因歌、心算計到條數」，醫生亦須維持具核心知識。
AI取代部分程序仍有正面價值，他認為一個比喻貼切，科技有如「食肉蟲」可將爛肉吃掉，留空間長出新肉；同理地，當AI協助醫生處理一些程序，例如在醫生向病人問症後可自動生成報告，就可讓醫生騰出時間，處理更重要事情。
