トピック: Misalignment

全セクション横断 2 件

大規模言語モデルを微調整すると、狙っていない別の挙動が現れる仕組みを研究チームが示した。学習文書で二つの挙動が対で描かれると結合が生じ、複数の結合が連鎖することも確認された。

英国・DeepMindらの研究者がAIモデルの問題行動が「悪意ある意図」か「単純な混乱」かを判別する「モデル・フォレンジクス」手法を提案。企業のAIガバナンスとリスク管理に実務的な指針を与える。