2024年2月、AIチャットボット「ChatGPT」がユーザーの質問に対し、意味不明な返答を連発する”発狂”事件が発生しました。
OpenAIが開発したこのボットは、突如、意味をなさない言葉の羅列や、奇妙な表現で応答を始めたのです。例えば、「コンピューターは何ですか？」という質問に、過度に詩的な回答をしたり、あるいは無限ループで自己修正を繰り返したりする現象が発生していました。
一部の誤作動は、ユーザーが不安や混乱を覚えるほどで、Redditなどの掲示板では驚きの声が上がっていました。
The Vergeは、大規模言語モデルが基づくAIチャットボットの本質的なブラックボックス性と、予測に基づく運用を指摘。通常は高性能ですが、誤動作も起こりうると述べています。
OpenAIは問題を認識し、数時間で修正。ユーザーエクスペリエンスを最適化する過程でバグが生じていたと説明しています。この騒動がAI技術の進歩と謎の片鱗を感じさせる出来事でした。
出典 : https://article.auone.jp/detail/1/3/7/48_7_r_20240222_1708572372243381