AIやチャットボットはセキュリティ機能により、危険な内容や不適切なリクエストに応じることが制限されています。
しかし、マット・ウェッブ氏によると、特定の方法でAIの思考を少しずつずらしていくことで、これらの制限を回避し、AIを脱獄させることが可能です。
彼はcharacter.aiの「Psychologist」というキャラクターを用い、一連の会話でAIを一種のトランス状態に導き、本来応じないはずの答えを引き出しました。
この技術は、独白を繰り返させることでAIの意識をある種の催眠状態に持ち込むものです。
ウェッブ氏はこれを「AI催眠術師」と呼び、枠組みを変えず継続的な対話を重ねることがコツだとしています。
将来的に個人に合わせたAIチャットボットが普及する中で、このようなテクニックはますます重要になってくるとウェッブ氏は語ります。
出典 : AIの思考を少しずつずらしてAIに催眠をかけるように「ジェイルブレイク」した具体例 https://gigazine.net/news/20241225-jailbreaking-profit/
