AI×経営戦略7/6(月)LLM推論の電力・遅延をAIが予測GPU実機なしにLLM推論の消費電力とレイテンシを予測する「WattGPU」が発表された。データセンター事業者がGPU選定を実測なしで最適化できるようになり、AI運用コストの大幅削減につながる可能性がある。
AI×製造6/26(金)アナログ回路でAI生成、消費電力100分の1に米研究者がアナログハードウェア上で動作する生成AIの新フレームワークを発表した。デジタル基盤比で消費電力を約100分の1に削減できる可能性があり、エッジAIの経済性を根本から変えうる成果として注目される。