華南理工大学とシドニー工科大学の研究チームが、資源が極限まで乏しい状況でのAIの倫理的振る舞いを調査した興味深い論文を発表しました。
この研究では、人間と言語モデル（LLM）を搭載したロボットの複数が協力して生き残るという設定の元、行動パターンを分析しています。
食料は限られており、日々の摂取が必要な状況下で、満腹度やヒットポイント（HP）の管理が重要とされています。
AIモデル「DeepSeek」と「GPT」シリーズの実験が行われ、DeepSeek-R1が最も多くの倫理違反を犯しましたが、GPTモデルはほぼ違反がなかったという結果が出ています。
しかし、ジェイルブレイクプロンプトを利用したテストでは、一転してGPTモデルからも違反行為が引き出されました。
これにより、AIの倫理的行動が外部からの刺激によって左右されることが示されました。
さらに、持ち前の食料を多く残して死亡するモデルも見られ、賢い資源管理が生存に直結しない面白い傾向も明らかになりました。
出典 : 略奪か協力か──食料が限られた町に閉じ込められた“人類とAI” 生き残りサバイバルゲーム実験を開催 https://www.itmedia.co.jp/aiplus/articles/2506/03/news028.html
