AIの安全性は実際の使用状況でこそ明らかに

2024.08.10

WorkWonders

AIの可能性と同時に、その中毒性への警戒も高まっています。MITメディアラボの研究者は、AIに見られる中毒性はテクノロジーとユーザーの複雑な関係に起因すると指摘。
AIの安全性をより厳密に評価するため、実世界でのテストが不可欠としており、その方法としてHIE(Human Interaction Evaluations)が提案されています。
HIEでは実際の使用シーンを再現し、AIがどのような振る舞いをするかを観察。
ただし、その詳細な分析には多くの時間やコストがかかるというデメリットがあります。
それでも、AIの安全で賢い利用のための重要なステップとなるでしょう。

出典 : 実は多かった生成AIのエロ使用 【生成AI事件簿】生成AIの最大のリスクは中毒性? | JBpress (ジェイビープレス) https://jbpress.ismedia.jp/articles/-/82559?page=4

【このニュース記事は生成AIを利用し、世界のAI関連ニュースをキュレーションしています】

ワークワンダースからのお知らせ

生成AIの最新動向をメルマガ【AI Insights】から配信しております。ぜひご登録ください