ローカルで動作するAIチャットボット、Nvidiaの「Chat With RTX」登場!

2024.02.19

WorkWonders

NvidiaからAIチャットボット「Chat With RTX」がリリースされました。このツールは、Nvidia RTXグラフィックスカードを搭載したPCでローカルに動作し、ChatGPTに似たパーソナライズされた会話が可能です。MistralやLlamaのオープンウェイトLLMを用い、ローカルファイルを検索し、それについての質問に答えることができます。

「Chat With RTX」は、Windows PCに搭載されたNVIDIA GeForce RTX 30または40シリーズのGPUで動き、会話を通じたデータ分析や要約もできます。しかしながら、このシステムはまだ完成段階ではなく、試験運用中にはたびたびクラッシュしました。依存するソフトウェアが多いため、インストールは複雑で、約35GBもの大容量ファイルを含むダウンロードが必要です。

その一方で、ローカル処理によりユーザーのプライバシーが守られるという大きなメリットがあります。クラウドベースのサービスを使う必要がなく、感度の高いデータを外部に送信しなくても済みます。詳細はNvidiaのウェブサイトで確認することができ、Nvidia GPUオーナーは無料でダウンロード可能です。エッジの効いた新技術を体験したい方は、ぜひチェックしてみてください。

出典 : https://arstechnica.com/information-technology/2024/02/nvidias-chat-with-rtx-is-a-chatgpt-style-app-that-runs-on-your-own-gpu/

【このニュース記事は生成AIを利用し、世界のAI関連ニュースをキュレーションしています】

【お知らせ】
弊社ワークワンダース社主催ウェビナーのご案内です。


<2025年1月21日実施セミナー>

生産性を爆上げする、「生成AI導入」と「AI人材育成」のコツ


【内容】
1. 生産性を爆上げするAI活用術(安達裕哉:ワークワンダース株式会社 代表取締役CEO)
2. 成功事例の紹介:他業種からAI人材への転身(梅田悟司:ワークワンダース株式会社CPO)
3. 生成AI導入推進・人材育成プログラム「Q&Ai」の全貌(元田宇亮:生成AI研修プログラム「Q&Ai」事業責任者)
4. 質疑応答



日時:
2025/1/21(火) 16:00-17:30

参加費:無料  
Zoomビデオ会議(ログイン不要)を介してストリーミング配信となります。



お申込み・詳細 こちらウェビナーお申込みページをご覧ください

(2024/12/11更新)