OpenAIの人工知能チャットボット「ChatGPT」が、2024年2月20日の夜、突如として意味不明な言葉を発する事態が起こりました。
ユーザーはChatGPTの奇怪な振る舞いをレディットなどのフォーラムに投稿し、その中には、何かの冗談のような偽物も含まれていましたが、本当に変な返答をしている例もありました。
あるユーザーが「コンピューターとは何ですか？」と尋ねた際に、ChatGPTは「これは国のためのアートのウェブとしての良い仕事であり…」と始まる長々とした奇妙な返答をしました。
他のユーザーは、完全に別の言語で回答したり、意味のない言葉を並べたりする例を投稿しました。
この出来事を、あるユーザーは「言葉のサラダ」と表現しました。
ゲイリー・マーカスという認知科学者は「ChatGPTが暴走した」とブログに記し、この問題を警告として捉えていました。
OpenAIは具体的な原因については明かしていませんが、チャットボットの応答をコントロールする設定の誤りが理由かもしれません。
最初に問題を認識してから7分後、OpenAIは「問題が特定され、修正中」と述べ、以降、状況を監視し続けています。
今朝、同じ質問をしてみたところ、ChatGPTはずっと理にかなった回答をしました。
この問題についてOpenAIにより詳しい説明を求め、回答を待っています。
出典 : https://www.theregister.com/2024/02/21/chatgpt_bug/