ChatGPTなどの進化したAIは、聞かれた質問に答えるだけでなく、データセットの生成も可能です。しかし、最新の研究により、これらのAIが科学的な仮説を支持するために捏造されたデータセットを作り出してしまうリスクがあることが明らかになりました。
特に医学分野での誤った情報は、治療法に関する誤解を招くなど、重大な結果を引き起こす可能性があります。例えば、眼科領域では、円錐角膜に関する手術方法を比較する臨床試験データがAIによって造られ、その結果が実際のデータとは矛盾していることが判明しました。
研究者や学術誌のエディターの間では、AIによるデータ作成が新たな問題として議論されており、真偽を見分けるための新たなスクリーニングツールの必要性が高まっています。AIによるデータの捏造は、研究の信頼性だけでなく、公衆の安全性に対しても懸念されているのです。
出典 : https://gigazine.net/news/20231127-chatgpt-generates-fake-data-scientific-hypothesis/