新しいAI技術の開発が進められています。これは「ハイライト付き思考連鎖」（HoT）と呼ばれ、AIの推論プロセスをより明確にし、人間が理解しやすくすることを目的としています。
この方法では、AIが質問を再構成し、重要な事実をXMLタグでマークすることから始まります。その後、これらのハイライトされた事実を参照しながら答えを生成し、質問と回答の明確な関連性を作り出します。
これはAIに事実を慎重に考慮させ、誤情報を減らす可能性があると研究者は言います。
さらに、研究チームはAIモデルにハイライトを自動生成させる訓練を行い、その結果、さまざまなタスクでのAIの正確性が向上しました。
ただし、Deepseek-R1のようなモデルでは、HoTを使用したテストにおいて、改善ではなくパフォーマンスが落ちるという結果も報告されています。
一方で、ハイライトは人間の信頼にも意外な効果をもたらしました。ハイライト付きの答えで人間は検証タスクを25%速くこなすことができたものの、誤った回答を受け入れる可能性が高まることも明らかになりました。
今後、この方法がAIシステムをより透明で分かりやすくするのに役立つと考えられていますが、その影響についての研究はまだ必要です。
研究論文はarXivのプリプリントサーバー及びプロジェクトページに掲載され、コードとデータはGithubで公開されています。
出典 : “Highlighted Chain of Thought” prompting boosts LLM accuracy and verifiability https://the-decoder.com/highlighted-chain-of-thought-prompting-boosts-llm-accuracy-and-verifiability/
