RedditがAI技術を導入し、LLM（大規模言語モデル）を駆使したハラスメントフィルターを実装しました。この新ツールは、ボランティアのモデレーターの負担を軽減する目的で設けられています。
Android AuthorityによるAPK解析により、公式Redditアプリの新バージョンにその存在が発見されました。このフィルターは、Reddit内で削除されたコンテンツを基に訓練された大言語モデルにより、迷惑行為と見なされる投稿やコメントを自動的にフィルタリングします。
フィルターはRedditコミュニティのモデレータツールから有効化でき、ユーザーがハラスメントと潜在的なタグをモデレーションキューで確認できるように作られています。
しかしRedditの株式公開（IPO）を控える中、そのユーザーは、AIやIPO計画にどのように反応するのか、まだ不透明です。以前、APIの利用料を巡る計画に抗議してサブレディットが暗転したような事態も発生しています。
Redditは自らのリスクとしてSECファイルへの懸念を表明し、新たなAI導入が単なる助けであると同時に、抗議に対するほのめかしの可能性も指摘されています。
出典 : https://www.theregister.com/2024/03/07/reddit_introduces_aipowered_harassment_filter/