最近、企業のIT環境内で大規模言語モデル（LLM）の活用が増えており、セキュリティ、責任ある人工知能（AI）、プライバシー、プロンプトエンジニアリングにおいて新たな挑戦と機会が出現しています。Biasなどのリスクが伴うLLMの使用は適切な管理が求められていますが、特に注意すべきはプロンプトレベルの脅威です。
Amazon Bedrock上でAnthropic Claudeを使用し、セキュリティ脅威に対して防護策を十分に施すプロンプトテンプレートの実装など、LLM展開のセキュリティを高める方法が模索されています。また、LLMの限界として最新情報を取り入れる能力の欠如が挙げられますが、外部情報を取り込む手法としてRetrieval Augmented Generation（RAG）が提案されています。
本稿では、セキュリティレイヤーや特定のプロンプト脅威を特定し、それらを緩和するためのガイドレールを議論しています。RAGアプリケーションへの適用例を挙げ、具体的なガードレールとベストプラクティスを提示しています。これらのソリューションは今後のAI保護に不可欠であり、私たちの技術的な未来を安全にナビゲートする上で重要となるでしょう。
出典 : Secure RAG applications using prompt engineering on Amazon Bedrock https://aws.amazon.com/blogs/machine-learning/secure-rag-applications-using-prompt-engineering-on-amazon-bedrock/