OpenAIが最新AIモデル「GPT-4o」の安全評価を発表しました。その結果、GPT-4oは「人間の政治思想に影響を与えるリスク」が中程度であるとされています。
このリスク評価は、100人以上の外部テスターで構成されるレッドチームによって行われました。彼らは、政治関連のコンテンツを人間とAIがそれぞれ作成し、その影響度を測定しました。
AIが生成したコンテンツは、人間の意見に対して特に強い影響力を持っていたことが明らかになりました。
しかし、GPT-4oは他のリスクに関しては「Low」と評価されており、安全な範囲内とされています。
OpenAIは、引き続きAIモデルのリスクを監視し、安全策を講じることを計画しています。
出典 : 「GPT-4oには人間の政治思想に影響を与えるリスクが中程度ある」とOpenAIが発表 https://gigazine.net/news/20240811-gpt-4o-system-card/