セス・ラーソン氏は、AIによって生成されたセキュリティ報告の「不要な量」にオープンソースプロジェクトのメンテナーが溺れていると指摘しています。
その質の悪い報告は、メンテナーの時間を浪費し、燃え尽き症候群(burnout)に拍車をかけているのです。
彼はブログ投稿で、「最近、品質が非常に低いスパムのような、LLM（大規模言語モデル）によって幻覚されたセキュリティ報告が増えている」と述べています。
これらの報告は一見正当に見えるため、否定するのに時間がかかるという問題があります。
加えて、これらの報告はセキュリティ上の懸念からメンテナーが体験を共有したり助けを求めることを控えさせています。
ラーソン氏は、プラットフォームにセキュリティ報告の自動生成や悪用防止システムを導入し、問題行為を行う報告者を公表できる仕組みを求めています。
また、報告者にはLLMシステムを使用せず、人間によってレビューされた報告のみを提出するよう呼びかけています。
ダニエル・ステンバーグ氏もまた、AIによるセキュリティ報告の質の低下について言及し、見かけ上は妥当に見える無駄な報告によって、有益な作業に割くべき時間やエネルギーが奪われていると語っています。
品質の低い報告は、メンテナーに悪意があるかのように扱うべきだとラーソン氏は提案しており、その一環として、AI生成と疑われる報告には短い返答をして即座に対応を終了することを勧めています。
「報告書がAIによるもの、不正確、またはスパムである疑いがある場合、短く返答し、報告を閉じてください」と彼は述べています。
オープンソースのメンテナーたちは、AIによる無益な報告によって、重要な仕事から注意が逸れないよう注意が必要です。
出典 : AI ‘slop security reports’ are driving open source maintainers mad https://www.itpro.com/software/open-source/ai-slop-security-reports-are-driving-open-source-maintainers-mad
