マイケル・ゲルツ教授によれば、医療現場でのAIの安全な導入にはまだ課題が多く残っています。特に、大規模な未整理データセットで訓練されたAIモデルは、ある声明の出所を特定することがほとんど不可能です。「医療分野においては、情報元の追跡可能性が信頼と責任の要です」とゲルツ教授は指摘しています。信頼できる情報か、それともインターネット上の噂に過ぎないのかを医療従事者と患者は知りたがっています。そのため、情報源の透明な表示が極めて重要です。
加えて、新しい状況や複雑な事例に遭遇した時のモデルの信頼性の大幅な低下、医療アドバイスに関する法的責任の曖昧さなどの問題が存在します。「人間の判断が不可欠であり、専門家による解釈と検証が重要な意思決定の前に必ず求められるでしょう」とゲルツ教授は結論づけています。
ゲルツ教授は、ハイデルベルク大学のデータサイエンスグループを率いる数学・コンピュータサイエンス部門の教授であり、自然言語処理、AI、複雑なネットワーク、科学データ管理といった学際的な研究に取り組んでいます。
出典 : How to teach an LLM to think like a clinician https://healthcare-in-europe.com/en/news/teach-llm-to-think-like-clinician.html
