スタンフォード大学の教授であり、Google Brainの共同創設者であるアンドリュー・ンがGPT-4を用いて人類の安全を試験しました。GPT-4に破壊的な指示を出す実験を行なったものの、AIは命令を適切に拒否。彼はAIが安全性の面で進歴を遂げており、現在の技術でもかなり安全だと私たちに伝えています。
AIが人間の消滅を引き起こすという懸念は現実的ではないとも述べており、もしAIが我々を滅ぼすほど賢いなら、それが間違ったことであると理解するほど賢明であるはずとの見解を示しています。
このような議論はイーロン・マスクやジェフ・ベゾスなどのテクノロジーの重鎮たちも持っており、それぞれに異なる見方を示しています。
AIのリスクに誰が正しいのか、この記事が私たちに示唆してくれるかもしれません。
出典 : https://www.businessinsider.com/google-brain-cofounder-could-not-get-chatgpt-kill-us-all-2023-12