Athena Technologiesは、生成AIを用いた業務でのリスクを抑制する「Athena Firewall」を開発しました。
不適切なAIの出力や個人情報の漏洩、モデルの濫用など、AI導入における複数のリスクを可視化しています。
特に、プロンプトインジェクションやセンシティブ情報の流出を防ぐ機能が特徴で、高速かつ高精度なリスク検出が可能です。
また、最新のセキュリティガイドラインにも準拠し、様々な業務環境に柔軟に対応する設計になっています。
安全で信頼性のあるAI環境を求める官公庁や医療など、多方面においてこの新技術の貢献が期待されます。
出典 : 松尾研発スタートアップのAthena Technologies、LLMガードレール製品をリリース。業務上のリスクに対応 – AIポータルメディア https://aismiley.co.jp/ai_news/athena-technologies-llm-guardrail/
