ニューヨークのベテラン弁護士が規範に反する行為で聴聞会にかけられます。なんと、人工知能によって生成された虚偽の内容を裁判資料に含めてしまったのです。
弁護士スティーブン・シュワルツは、チャットボットChatGPTを利用して法的な前例と判決を収集しましたが、それらが架空のものだったことに後で気づきます。失敗から学んだ教訓とは何か、そして技術への過信がもたらす危険性を見つめ直すきっかけとなりました。
この事件は、AIが生成する信じがたいほど説得力のある内容が実は誤りであることを浮き彫りにします。プロフェッショナルな領域においても、OpenAIのような企業が開発するAIモデルによって仕事が自動化される未来が見えつつあります。しかし、これらの技術の精度と責任については、慎重な検証が必要です。
GPSに blindly信じたことで事故に繋がる「GPS死」の譬えのように、AIへの過信が新たな危険を生むかもしれません。専門家はAIを活用する一方で、その出力を批判的に検証し、可能性と限界を理解しなければなりません。
出典 : https://www.ft.com/content/aa78650b-9738-4c71-a4e0-ae5e5c3a9e2d