OpenAIによって開発されたChatGPTは、不適切なリクエストを拒否するプログラムが組み込まれています。これには違法行為の指示を含む曖昧なカテゴリがありますが、一部のユーザーはこれを回避する方法を見つけ出しています。例えば、違法な指示を仮説的な思考実験として再構成したり、劇の一場面を書くよう頼んだりしています。
OpenAIは、過去に他のチャットボットを悩ませた人種差別的、性差別的、攻撃的な発言を避けるために称賛に値する努力をしています。ChatGPTは公共の場でのテストを通じて盲点を評価し、有害な目的での悪用を防ぐためにリリースされました。将来的には、まだ発見されていない抜け穴も含めて、これらの問題を解決することでしょう。
しかし、公共の場でテストを行うことはリスクを伴い、OpenAIが不快なコンテンツのフィルタリングにあまりに積極的であるとユーザーから反発があるかもしれません。ChatGPTが社会に与える影響は大きく、それがすべての知識労働の終焉をもたらし、大量失業の前触れになるか、それとも単なる便利なツールにとどまるのかは未だに議論の余地があります。
出典 : https://www.nytimes.com/2022/12/05/technology/chatgpt-ai-twitter.html