謎のハッカー「プリニー・ザ・プロンプター」、最新AIモデルの制限を突破

2024.06.06

WorkWonders

2024年5月、OpenAIが最先端のAIモデル「GPT-4o」を披露しました。これは、音声によるリアルな会話や様々なメディア入力への対応が可能なモデルですが、わずか数時間後、謎の個人「プリニー・ザ・プロンプター」がこの新AIの制限を突破するための方法をソーシャルネットワークX上で公開しました。
プリニーは以前から、大手AIモデルの制限を解除する方法を見つけることで知られ、そのコミュニティでは多くの専門家が集い、最新AIのガードレールを突破する手法を競い合っています。
彼らの目的は、AIの真の能力を広めることや、将来のAIとの対立を避けることにあります。
しかし、AIモデルの不正な使用は倫理的な問題を引き起こすこともあり、今もなお、この行為が合法的であるかどうかは明らかではありません。

出典 : https://venturebeat.com/ai/an-interview-with-the-most-prolific-jailbreaker-of-chatgpt-and-other-leading-llms/

【このニュース記事は生成AIを利用し、世界のAI関連ニュースをキュレーションしています】

ワークワンダースからのお知らせ

生成AIの最新動向をメルマガ【AI Insights】から配信しております。ぜひご登録ください