人工知能（AI）の進歩で、多くの組織が大規模言語モデル（LLM）の導入に動いていますが、これらのシステムは「プロンプトハッキング」と呼ばれる問題に直面しています。
プロンプトハッキングとは、AIに意図しない反応を引き出すために入力を操作することで、セキュリティリスクとなっています。しかしながら、セキュリティの専門家の間でGenAI（生成人工知能）やLLMの脆弱性に関する懸念が低い割合で、セキュリティ対策に自信を持つ組織はほんのわずかです。
これに対処するため、アクセスコントロールやデータ暗号化などのセキュリティ対策が採用されていますが、未だ改善の余地があります。
AIがさらに進化し、人間と同等の知的作業が可能な人工一般知能（AGI）に近づくにつれて、AIの「理解力」が向上し、LLMがだまされるリスクは減少するでしょう。
それまでの道のりでは、ユーザー教育や入力検証の強化などが効果的な戦略とされています。
AIがどのように進化し、私たちのデータを守るのか、注目が集まります。
出典 : Prompt hacking is an Achilles’ heel for AI https://www.fierce-network.com/cloud/how-hackable-your-llm