今年初頭にオープンした「GPT Store」ですが、OpenAIが掲げるポリシーに背くアプリが問題となっています。
AIを使ったグレーなサービスが手軽にアクセス可能で、不適切な性的コンテンツ生成ツールや、学業不正に使えるカンニングツールなどが発見され、米メディアによって指摘されました。
これら違反アプリの多くは利用されているものの、医療や法律に関するアドバイスを提供するものもあり、ユーザーに誤解を招くリスクが指摘されています。
OpenAIは問題の一部を承知し、削除に踏み切るも、未だ完全な解決には至っておらず、適切な監視やルール強化が今後の課題となっています。
出典 : ポルノやカンニングツールの温床？ GPT Storeの監視体制に疑問符 https://www.gizmodo.jp/2024/09/ai-porn-wrong-medical-advice-gpt-store.html