トピック: Backdoor Attack

全セクション横断 2 件

AIモデルの重みの中に暗号化した別のネットワークを隠し、秘密の合図でのみ作動させられることが示された。導入前の能力評価だけでは危険性を見抜けない可能性があり、調達や監査の前提を揺るがす。

プライバシー保護技術として普及する差分プライバシー付き連合学習が、逆に悪意ある攻撃を隠蔽する手段として悪用される脆弱性が実証された。金融・医療など機密データを扱う業界のAI導入戦略に再考を迫る研究である。