Sakana AI・総務省:偽情報対策AI開発・実証
画像: AI生成

Sakana AIが総務省「インターネット上の偽・誤情報等への対策技術の開発・実証事業(令和7年度)」の技術開発主体として採択され、SNS偽情報対策に必要な3つの機能を統合したシステムを開発・実証した。

第一の機能はナラティブ可視化だ。ノベルティサーチ技術を用いてX(旧Twitter)の投稿データを再帰的にサンプリングし、新規性の高いナラティブを抽出して階層ツリーとして可視化する。従来の単純なキーワード検索では捉えにくい、新たに発生・拡散しつつある言説の芽を早期に発見できる点が特徴だ。

第二の機能は偽情報判定だ。画像・動画の生成加工検知にフロンティア基盤モデルと同社独自モデルを組み合わせ、AIエージェントによる自動ファクトチェックも実装した。単一モデルへの依存を避けた設計は、特定モデルの弱点を補完する実用的なアプローチといえる。

第三の機能は対策シミュレーションだ。独自ABMフレームワーク「Shachi」を活用してSNS空間をシミュレーションし、カウンター発信を実際に行う前にその有効性を事前検証できる。Shachiはオープンソースとして公開されており、外部の研究機関や行政機関が独立して活用・検証できる再現性を持つ。

この取り組みが持つ意義は技術面にとどまらない。偽情報対策ツールの多くは海外ベンダーが提供しており、日本の公共機関が利用する際にはデータ主権やカスタマイズ性の制約が課題だった。国産スタートアップが政府実証事業を通じて競合可能な技術スタックを確立したことは、調達の選択肢を広げる。

また、EUのDSAに相当する国内の偽情報規制議論が進む中で、実証済みの国産技術の存在は政策立案の技術的根拠としても機能し得る。一方で、SNS投稿データの収集・分析範囲とプライバシー・表現の自由との境界線の定義は、今後の社会的議論の焦点になるだろう。