先週の火曜夜、ChatGPTが意味不明な返答をする事態が発生しました。ユーザーたちはその奇妙な挙動に戸惑い、オープンAIは「ChatGPTからの予期しない返答」の原因究明に乗り出しました。
Redditのサブレディットではユーザーが「ChatGPTは一時的に正気を失ったのか？」と動揺を訴えています。さらに一人のユーザーは、「一文で要約して」と頼んだら、ビーオウルフに匹敵するヴィクトリア時代の叙事詩のような回答をされ、困惑している様子が書き込まれました。
このバグは翌水曜の朝までに解決されましたが、オープンAIは何が問題だったのかについては黙っています。ChatGPTを利用する人が増えている中で、AIの突然の誤動作はそれに依存する作業を止めるだけでなく、偏見を持ったり有害な返答を生成することで実世界へのダメージをもたらす可能性もあるため、警戒が必要だと示唆しています。
AIを使った生成物には疑問を持つことの重要性を、この一件が浮き彫りにしました。
出典 : https://www.thedailybeast.com/openais-chatgpt-went-completely-off-the-rails-for-hours