無料のオープンソースでAIを私流に操る術

2024.08.01

WorkWonders

古いコンピュータでも、オープンソースのAIモデルを使えばその能力を無料で引き出せます。たった1時間で、個人のメモにアクセスし、自己対話ができるローカル上の大規模言語モデル(LLM)を動かすことができました。
AIは魔法ではありません。それをどんな問題解決に用いるかを知る必要があるのです。
私は書くことやポッドキャスティングに興味を持ち、LLMにこれらの活動を要約させて、自分の関心が最も強いものは何かを探る冑旅を続けてきました。
基本的には「LLMに私のすべき道を指し示して欲しい」ということです。そして、LLMはAI学習をもっと深め、興味のある分野に活かすよう進言しました。
しかしAIを本当に有効活用するには、望む成果に即して訓練できるよう、その目標を定義する必要があります。データが最も重要で、RAG(Retrieval-Augmented Generation)を使う際も関連する、有益なデータが求められます。
より少ないデータをベクトルストアに格納した時、より関連性のある回答が得られたのです。
具体的には、ノートを的確に選び、その問いに関連するノートだけを読み込むことにしました。その結果、より強力な応答が得られたのです。
このアプローチは、これまで非常に有用でした。AIをより役立たせるためには、もっと良いデータを集める必要があります。その一環として、RAGで使うドキュメントにメタデータを付与することが重要です。

出典 : I trained a local LLM on my Obsidian, here’s what I learned https://medium.com/@BitsOfChris/i-trained-a-local-llm-on-my-obsidian-heres-what-i-learned-a3e738f9bed0

【このニュース記事は生成AIを利用し、世界のAI関連ニュースをキュレーションしています】

【お知らせ】
弊社ワークワンダース社主催ウェビナーのご案内です。


<2025年1月21日実施セミナー>

生産性を爆上げする、「生成AI導入」と「AI人材育成」のコツ


【内容】
1. 生産性を爆上げするAI活用術(安達裕哉:ワークワンダース株式会社 代表取締役CEO)
2. 成功事例の紹介:他業種からAI人材への転身(梅田悟司:ワークワンダース株式会社CPO)
3. 生成AI導入推進・人材育成プログラム「Q&Ai」の全貌(元田宇亮:生成AI研修プログラム「Q&Ai」事業責任者)
4. 質疑応答



日時:
2025/1/21(火) 16:00-17:30

参加費:無料  
Zoomビデオ会議(ログイン不要)を介してストリーミング配信となります。



お申込み・詳細 こちらウェビナーお申込みページをご覧ください

(2024/12/11更新)