医療現場での大規模言語モデル（LLMs）の利用は意外にも広がっていますが、スタンフォード大学のロクサナ・ダネシュジュー博士によると、潜在的な危険性が指摘されています。
調査によると、医師の約65%が臨床場面でLLMsを使用しており、これらのモデルが患者ケアに使用されることは問題があるとされています。
LLMsが大きなテクノロジデータを基にして訓練されているだけで、正確さは保証されていません。医師や研修生にはAIの動向を理解し、議論に関与することが重要です。
また、LLMsが誤った情報やバイアスを引き起こす可能性があり、GPT-4 Visionに代表される画像解析機能は、過剰に悪性と診断してしまう恐れがあるため、診断支援ツールとしての使用は推奨されていません。
出典 : Expert Warns of AI Pitfalls in Dermatology https://www.medscape.com/viewarticle/expert-warns-large-language-model-pitfalls-dermatology-2024a1000gl5