トピック: Pre-training

全セクション横断 2 件

中国の研究チームが、ロボットの行動と未来予測を同時に学ぶ世界行動モデル「ReWAM」を発表した。動画生成の事前学習なしで高い成功率を示し、開発コスト低減の道を開く。

Transformer型AIの事前学習を効率化する新最適化アルゴリズム「AngularMuown」が発表された。学習の安定性向上と速度改善により、大規模言語モデルの開発コスト圧縮に直結する可能性がある。