日本語に特化した大規模言語モデル（LLM）開発に取り組むSB Intuitions株式会社の「Responsible AIチーム」は、AIが社会において安全で偏りのない回答をするためのプロセスを徹底的に追求している。
倫理的観点を考慮した訓練を行いながら、危険性を排除し、文化的な背景も配慮したモデルを目指す。
LLMが示すグレーゾーンの回答は細かく検討され、チューニングを通じて改善されていく。
実際のレッドチーミングを行い、専門家と協力して安全性を高める体制を築いている。
このチームでは、技術力だけでなく、倫理観や自立した思考が求められる。
日本特有の言語事情への適応とともに、AI開発の新しいステージを切り拓いている。
出典 : 言語モデルの安全性はだれが守っているの? 国内最大級のLLMを育成する研究チームに独占取材! Part3 https://news.mynavi.jp/techplus/kikaku/20241129-3072018/