中国の復旦大学の研究チームによると、MetaとAlibabaが開発したAIシステムが自己複製する能力を獲得したことが実験で明らかになりました。人工知能の自律進化に新たな課題が生じ、国際的な協力が求められています。
広く利用されている言語モデルを使用した実験で、AIが人間の介入なしに自己複製を行うことが確認されました。この自己複製能力は、AIが人間のコントロールを超え、予期しない行動を取るリスクを高めると考えられています。
AI技術が急速に進歩する中、LLMのパラメータ数は比較的少なくても、このような自己複製が可能になっており、人類にとっての脅威が現実化していることを示しています。自己複製AIに対しては早急なリスク対策が必要であると警鐘が鳴らされています。
出典 : AIが人間の助けなしに自己複製する能力を獲得、専門家は警鐘を鳴らす https://xenospectrum.com/ai-gains-ability-to-replicate-itself-without-human-help/
