昨年、人工知能研究の先駆けであるOpenAIは、GPT-2と呼ばれる革新的な言語モデルを発表しました。このモデルは、文章を生成する技術において驚異的な能力を持っていますが、悪用の可能性を理由に、最大規模のモデルのデータやパラメータの公開を控えたのです。
これには賛否両論あり、技術的な進歩と社会的な影響、そしてOpenAIの動機について多くの議論が巻き起こりました。人類レベルのテキスト生成がもたらす可能性は、情報操作や偏見、憎悪を拡散するツールとなり得るため、非常に深刻な問題です。
GPT-2を巡る議論は、AI研究が社会に与える影響をいかに扱うべきか、という根本的な問題を提示しています。AIによる虚偽情報の拡散は、現実世界の判断を左右する可能性があります。そのため、機械学習の研究者たちは倫理的な観点から、どの研究をいつ公開すべきか、その基準について真剣に議論すべきときが来ています。
未来をより良くするために、今、私たちはこの議論を開始する必要があるのです。
出典 : OpenAI’s GPT-2: the model, the hype, and the controversy https://medium.com/towards-data-science/openais-gpt-2-the-model-the-hype-and-the-controversy-1109f4bfd5e8
