こんにちは！インターンの古市です！
「生成AI起業のヒント」では、ANOBAKAが注目している海外の生成AIスタートアップを取り上げて、生成AIの活用方法を分析・解説していきます。
生成AI領域で起業を考えられている方にとって事業のヒントとなれば幸いです。
「生成AI起業のヒント」として第24弾となる今回の記事では、主張の真偽を判定するファクトチェックをAIで行うサービスを展開しているFactiverseというスタートアップについて取り上げます。
ファクトチェックの作業は、情報の真偽を判定するために信頼あるデータベースなどからの周辺情報の収集とその照らし合わせを行うものになり、言い換えれば一定のルールに基づいた繰り返し作業です。AIはそのような作業に強みを持っているため、ファクトチェックの作業はAIとの相性が非常に良くなっています。ここではAIと相性の良い作業をAIで代替する例としてFactiverseについて取り上げているので、AIと相性の良いサービスの展開例として参考にしていただければと思います。
1. Factiverseとは
■企業情報
- 会社名：Factiverse
- 本社所在地：スタバンゲル(ノルウェー)
- 最新の調達ラウンド：Seed
- 資金調達総額：100万ユーロ(約1.6億円)
- 主な株主：Murshid M. Ali, Validé など
- カテゴリー：コンテンツ管理
- 公式ホームページ：www.factiverse.no/
Factiverseとは、AIと機械学習を利用することで文章中の主張が真実か否かを判断することができるサービス・Factiverseを開発、提供しているスタートアップです。
主なサービスにはAI Editor, Live Fact-checkingがあります。AI Editorは文章がAIにより作成されたものかどうかを判定するサービスです。
Live Fact-checkingというサービスは動画や音声、ライブ放送を文字に書き起こし、中に含まれる主張を自動で抽出し、その主張の真偽を判定するサービスです。
Live Fact-checkingについて具体的な内容が分かりずらいと思うので少し追加で説明します。2個目の動画は米国の大統領選のスピーチにLive Fact-checkingを使った実例になります。この例のように動画などをFactiverseに渡すと、総合的な分析を主張の真偽を各項目ごとに分析します。
また、真偽判定とその判断の理由を含めた説明を各主張に対して確認することができます。
Factiverseの技術的優位性
Factiverseはアルゴリズムとデータベースの観点で優位性を持っています。真偽判定アルゴリズムについてはアメリカでの特許を取得しており、データベースに関してもGoogle、Bing、Wikipedia、You.com、Semantic Scholar（2億件の記事）、そして30万件を超える記事を有する社内データベースを瞬時に検索します。
また、研究によると、この技術は各主張の文脈やニュアンスを捉える点でGPT-4などの他のAIモデルよりも優れており、虚偽情報の検出がより正確であることが示されています。
2.日本における生成AIファクトチェック
昨今、生成AIや編集ツールによって偽情報や誤情報が簡単に作成・拡散できるようになっています。勘違いの誤情報や生成AIや加工によって作成された偽情報がフェイクニュースとして拡散されてしまうケースが増えています。
マスメディアやファクトチェック団体、プラットフォーム事業者は情報の真偽の判定やそれにまつわるレポートの作成に多大な労力を割く必要が生じています。
日本では実際に、NECがその課題を解決するための技術開発に乗り出しており、既に実証実験を開始しています。
NECが開発中の技術は、テキストや画像、動画、音声などの複数種類のデータで構成されているコンテンツの真偽をAIで分析します。
1.画像などが生成・加工されていないかを検知
2.複数種類のデータをAIで認識してテキスト化
3.認識したテキストの内容が正しいか、出典のある情報か、データ間の矛盾がないかなどを偽情報分析に特化したLLMで評価
以上のプロセスで真偽を判定し、ファクトチェック機関の専門家が作成する報告書や記事に近い形式でレポートを作成し、適宜分析の目的に合わせて調整が可能になっているようです。
3. ファクトチェックの今後
生成AIの発展・普及に伴い、生成AIによる創作かどうか、虚偽情報か否かを判定する技術の需要は急増しています。
進むフェイク対策
実際、イスラエルとハマスの戦争ではデジタル加工された写真がソーシャルメディアで拡散され、犠牲者の責任について虚偽の主張をしたり、実際には起こっていない残虐行為について人々を騙したりするために使われたりしました。
米国では大統領選の関係で偽情報が民主主義をゆがめることへの懸念が強まったことで、業界横断で試行錯誤が続いており、現在生成AIで作られた偽コンテンツ「ディープフェイク」の拡散防止策が進んでいます。
2024年5月にはChatGPTを開発運営するOpenAIがAIで生成されたフェイク画像などに対処するため、国際基準団体「C2PA」の運営メンバーに参画すると公表しました。
C2PAとはデジタルコンテンツの信頼性を証明するための基準作りを進める団体です。Googleやマイクロソフトなどの米国IT大手が参加しているほか、日本でもソニーやNHKなどが参加しています。
世界のファクトチェック機関の現状
世界のファクトチェック機関は2022年に過去最高の457機関を記録してから減少に転じている。主な理由の一つは財政難ですが、もう一つの懸念が外部圧力です。旧ソ連ジョージア（グルジア）のファクトチェック機関の構成員からは「我々の事務所は毎日スプレーで落書きされ、通うのに使う自動車も被害にあう」という訴えがありました。また、ソウル大学の研究機関が運営し、政治家の主張を監視してきた「SNUファクトチェックセンター」は23年に韓国のネット大手ネイバーに資金打ち切りを告げられましたが、そこではネイバー側への政治的圧力の存在が指摘されています。
このような外部圧力に対応する上でも人間ではなく、AIが自動的にファクトチェックを行うのは非常に良いアプローチになると考えます。
ファクトチェック事業のターゲット
日本でのファクトチェックの主なアクターは、非営利団体として、日本におけるファクトチェックの普及・推進活動を行っている団体であるFIJ（ファクトチェック・イニシアティブ）、ファクトチェック（事実の検証）の実践とメディア情報リテラシーの普及に取り組む組織であるJFC（日本ファクトチェックセンター）があります。
そして、営利団体として、記事作成に伴いファクトチェックを利用している各メディア、そしてヤフーやLINE NEWS、グノシーなどのニュースプラットフォームとなっています。
そのため、ファクトチェック事業を行うのであれば、ターゲットとなるのは各メディアやニュースプラットフォームになると考えられます。また、現在X(旧Twitter)にあるようなコミュニティノート機能をAIにより自動化するようなことも考えられます。
執筆者：古市 健太郎
ANOBAKAでは、日本において生成AIビジネスを模索する起業家を支援し、産業育成を実現する目的で投資実行やコミュニティの組成等を行う、生成AI特化のファンドも運用しております。
AI領域で起業したい、ANOBAKAメンバーと話してみたいという方はぜひお問い合わせよりご連絡ください！
お問い合わせ
