サイバーセキュリティのエキスパート、オデッド・ヴァヌヌ氏が来日。講演でAI、特にGPTシリーズの脆弱性について話した。
生成AIは便利だが、誰でも容易に悪用できるリスクがあるとして、GPT-3や最新のGPT-4でも問題が続いていることを明らかにした。
GPT-3の時と同様に、GPT-4にも実用化可能なフィルターがあるにも関わらず、ヴァヌヌ氏のチームは脆弱性を悪用できることを検証した。
セキュリティの専門家がAI脆弱性に警鐘を鳴らすこの状況は、AIの安全な利用のためにも見逃せない重要なポイントである。
出典 : オフェンシブセキュリティの権威がGPTの脆弱性を証明──生成AIを使う攻撃者の視点と新たな攻撃手法 https://enterprisezine.jp/article/detail/20008