トピック: Self-Attention

全セクション横断 2 件

研究チームは、値写像を負にした最小のトランスフォーマーで、カオスや注意の凝縮が生じる条件を理論的に整理した。疎な注意が動的挙動を持続させうる点は、AIの安定運用を考える上で示唆に富む。

金融取引の不正検知にTransformerベースのモデルを適用し、偽陽性率を30%削減しつつ検出率を維持する手法が提案された。