サンフランシスコで、AIのセキュリティと評価を自動化するプラットフォーム「Patronus AI」は、シリーズA資金調達ラウンドで1700万ドルを集め、総調達額は2000万ドルに達しました。このラウンドは、グレン・ソロモン氏率いるノータブル・キャピタルの主導で、ライトスピード・ベンチャー・パートナーズやデータドッグなどが参加しています。
Metaから出てきた機械学習の専門家、アナンド・カンナッパンとレベッカ・チエンが設立した同社は、企業が大規模な言語モデルの誤りを検出するのを助ける最初のプラットフォームです。独自のAIを用いて、企業の開発チームがモデル性能を評価し、逆テストケースを生成し、基準設定などを行えます。
これまでの手作業に頼った高コストな評価方法を自動化し、大規模な言語モデルを信頼して展開できるように支援します。また、Patronus AIは最近、AIの精度と安全性に関する研究を発表し、特に金融上の質問に対する大規模な言語モデルのパフォーマンス基準であるFinanceBenchを立ち上げました。
今後、新たな資金でAIリサーチやエンジニアリング、営業チームを拡大し、評価モデルの訓練や新しい業界標準の基準開発に力を入れる予定です。会社の詳しい情報はPatronus AIのウェブサイトにて。
出典 : https://www.datanami.com/this-just-in/patronus-ai-raises-17m-to-detect-llm-mistakes-at-scale/