Lasso Securityのバー・ラニャド氏が、AIが生成した架空のソフトウェアパッケージによるリスクを指摘しています。
GPT-4やその他の大規模言語モデルは、時に実在しないパッケージをコード生成に含め、これが実際のソフトウェア開発で使用される恐れがあるとのことです。
特にPythonやnode.jsのような言語では、攻撃者が独自のパッケージ名を使用しやすく、悪意のあるコードを仕込むことも可能。
ラニャド氏はこれらのパッケージがマルウェアを拡散する手段として利用される危険性を警告し、AIの回答の正確さを確認し、未知のパッケージには慎重に対処するよう呼びかけています。
パッケージの詳細調査やセキュリティスキャンを徹底することが推奨されています。
出典 : https://gigazine.net/news/20240329-ai-hallucinations-software-package/