OpenAIが最新AIモデル「GPT-4o」の安全面を検証した文書「GPT-4o System Card」を公開しました。
System Cardは、AIモデルのリスクや安全性テスト、リスク軽減策について記載された技術文書であり、以前のモデルにも同様のものが作成されています。
今回のGPT-4oに関しては100人以上が参加する多言語のテストを実施し、そこで高度な音声モードによる様々な問題点が指摘されています。
人間らしい音声によって擬人化や感情的な依存が進む恐れがあるなど、高度なAIがもたらすリスクについて、OpenAIは今後も研究を進める意向を示しています。
このようなリスクを認識しつつ、AIの利便性を安全に享受できるよう、さらなる評価と調整が求められているのです。
出典 : OpenAI、「GPT-4o」のリスク評価結果を公開 「リスクは中程度」と判断 https://www.itmedia.co.jp/news/articles/2408/09/news080.html