2024年5月、OpenAIが最先端のAIモデル「GPT-4o」を披露しました。これは、音声によるリアルな会話や様々なメディア入力への対応が可能なモデルですが、わずか数時間後、謎の個人「プリニー・ザ・プロンプター」がこの新AIの制限を突破するための方法をソーシャルネットワークX上で公開しました。
プリニーは以前から、大手AIモデルの制限を解除する方法を見つけることで知られ、そのコミュニティでは多くの専門家が集い、最新AIのガードレールを突破する手法を競い合っています。
彼らの目的は、AIの真の能力を広めることや、将来のAIとの対立を避けることにあります。
しかし、AIモデルの不正な使用は倫理的な問題を引き起こすこともあり、今もなお、この行為が合法的であるかどうかは明らかではありません。
出典 : https://venturebeat.com/ai/an-interview-with-the-most-prolific-jailbreaker-of-chatgpt-and-other-leading-llms/