最新の研究によれば、AI、特に大規模言語モデル(LLM)は、予測可能で制御可能、そして安全だとされており、多くの人々が考えているような存亡の危機を引き起こすものではないといいます。イギリスのバース大学とドイツのダルムシュタット工科大学の研究者たちは、これらのモデルは指示に従うことは得意ですが、自ら新しい技能を習得することはできないと指摘しています。
LLMが示す驚くべき行動も、そのプログラミングや指示に由来するもので、彼らが構築された範囲を超えて進化することはありません。しかし、これはAIが脅威を全く持っていないという意味ではありません。情報操作や偽ニュースの生成、詐欺、意図せぬ誤情報の提供など、「人間による管理」が問題であるとも指摘されています。
つまり、恐れるべきは、機械そのものではなく、それらをプログラミングし、操作する人間なのです。バース大学の研究チームは、その研究成果を下のビデオで議論しています。
出典 : AI’s existential threat to humanity put under the microscope https://newatlas.com/computers/artificial-intelligence-existential-threat/