サイバー犯罪者たちは、言語モデルの進化を利用して新たな攻撃手法を生み出しています。これにより企業へのリスクが高まっています。例えば、文書に隠された指示がシステムによって実行され、機密情報が危険にさらされる事態が起こり得ます。
AIシステムに対する攻撃は、敵対的な機械学習技術を使用しており、中国における税金関連の詐欺や、カリフォルニアの失業保険詐欺などが近年起きています。
これらの脅威から守るためには、セキュリティの脆弱性を把握し、デザインや開発、配備、運用といった段階ごとに対策を講じることが重要です。アイデンティティー検証の過程の欠陥を突くような攻撃に対しては、開発段階で国際の透かしや定期的なセキュリティテストを行うべきです。
また、デプロイメント段階では、暗号化技術を利用したデータ保護や、ライブラリの安全なロード方法などを確立する必要があります。運用段階では、クエリ数を制限するなどして、長期的なメンテナンスが要求されます。
AIのセキュリティ対策は、複数のツールや手法を組み合わせた継続的なプロセスであり、業界全体でその使用を優先させることが必要です。
出典 : AI cybersecurity needs to be as multi-layered as the system it’s protecting https://www.helpnetsecurity.com/2024/09/09/ai-cybersecurity-needs/
