AI×経営戦略10/12（月）4ビットAdamW、丸め方の再設計で精度差縮小AdamWの最適化状態を4ビットで保持する際の丸め方を見直した新手法ZIP-SRとZE-EDENが提案された。メモリ削減と学習精度の両立を狙え、LLM自社学習の費用負担を下げる可能性がある。
AI×経営戦略10/5（月）TACO、30B級LLMを単一GPUで微調整可能に研究チームが、LLMの全パラメータ微調整でオプティマイザ状態を174分の1に削減する手法TACOを発表した。80GBのGPU1枚で30B級モデルを扱え、調達費の抑制につながる可能性がある。
