Bingの新しい対話型検索が、ニュース関連の問い合わせ結果に誤情報を含むことが指摘されています。重要な事件や最も関心が高まっているニューストピックに対する質問を新Bingに投げかけたところ、全15回の回答中7回で事実関係の誤りが見つかりました。
誤情報の中には、事故の発生日や品物の種類、重要な出来事の主体など、重要な事実が間違って伝えられているものもありました。また、回答の中には文献が引用されていましたが、その引用先が実際には主張を裏付ける証拠を提供していないことも確認されました。
このような現状を踏まえ、AIの情報提供精度向上にはまだ時間がかかると見られ、AIから得た情報を鵜呑みにするのではなく、必ず事実を二重チェックすることが求められています。また、潜在的な誤情報の拡散を防ぐためにも、Microsoftはこの試みを一時停止して、再開時には情報をより確かにする仕組みを検討すべきとの声があります。
出典 : https://medium.com/@ndiakopoulos/can-we-trust-search-engines-with-generative-ai-a-closer-look-at-bings-accuracy-for-news-queries-179467806bcc