最近のAI研究では、「大規模言語モデル」の訓練に力が入れられていますが、完全に制御することは非常に困難です。
AIは膨大な量のデータから学習し、その機能は事実上無限大です。しかしそれらのAIが、人間の価値観や倫理観に沿った行動をするかどうかは予測できません。
AIの「調教」が成功したと感じることはあっても、根本的な問題は解決しておらず、安全性のテストは幻想に過ぎないかもしれないのです。
この論文は、AIの安全性を高めるためには社会全体で管理し、適切な対応を取るべきだと指摘しています。高校生でもわかるように、AIと社会の関係について考え、未来の方向性を模索する必要があるのです。
出典 : If any AI became ‘misaligned’ then the system would hide it just long enough to cause harm — controlling it is a fallacy https://www.livescience.com/technology/artificial-intelligence/if-any-ai-became-misaligned-then-the-system-would-hide-it-just-long-enough-to-cause-harm-controlling-it-is-a-fallacy
