近年、言語モデルの人工知能（LLM）が注目を集めていますが、その能力が便利だからといって「知性」を持っているとは限りません。たとえば、LLMを使って法律試験の答えを見つけ出すことは可能ですが、それが優れた弁護士であることを意味するものではありません。
ツールとしての有用性と「知性」を同一視する議論には限界があります。AIによる操作性や危険性を懸念する声もあり、非知性的なツールとしてのAIの可能性を強調する意見もあります。
また、AIが単純な作業で人間よりも優れた結果を出すことができるからといって、その背後にあるプロセスを理解しているわけではないという点にも注意が必要です。将来的にAIが真に知性を持つ可能性は否定されていませんが、現状ではモデルに知性があると考えるのは人間の願望に過ぎないことを理解することが重要です。
知の進化や意識に興味があるなら、ダニエル・デネットの「意識の説明」やピーター・ゴッドフリー・スミスの「他者の心」などの文献を読むのがおすすめです。
出典 : https://medium.com/@jones.steveg/llm-of-the-gaps-32652813abeb