AI×経営戦略6/26(金)LLM量子化、コスト削減に落とし穴AIモデルの軽量化技術「量子化」がメモリ使用量を最大85%削減する一方、推論時間とエネルギー消費を増大させることが実証研究で判明した。企業のAI導入コスト試算に再考を迫る結果である。
AI×経営戦略6/18(木)AIが問題難易度に応じ計算量を自動調整スイス連邦工科大学チューリッヒ校などの研究チームが、推論の複雑さに応じて計算量を動的に変化させるトランスフォーマー「FPRM」を発表した。コスト効率と精度の両立を求める企業AI部門に直結する成果である。