あなたに寄り添う テックメディア

レポート

「間違えないAI」を目指さない。オードリー・タンが語ったTrust by Designとは?

※記事内のアフィリエイトリンクから収入を得る場合があります


Fpos0000

7月28日・29日の2日間、東京国際フォーラムで「FPoS Developers Conference 2026(FDC2026)」が開催された。テーマは「デジタルに、信頼を取り戻す。」だ。

僕が聴きに行ったのは、初日の基調講演。登壇者は台湾の元デジタル担当大臣、オードリー・タン氏である。この記事では、その内容をレポートしたい。

Trust by Designとは何か

Fpos0005
元デジタル担当大臣、オードリー・タン氏

講演の中心にあった考え方が「Trust by Design(設計による信頼)」だ。信頼を、利用者の注意深さや事業者の善意に任せるのではなく、サービスの設計そのものに組み込む、という考え方である。

具体的には、こういうことだ。誰が、何を、どの権限で行ったのかを、あとから確かめられる。間違いが起きたら、隠されずに公開の場で訂正され、訂正の記録も残る。そして利用者の側に、その過程を確かめる力、おかしいと声を上げる力、使うのをやめる力がある。こうした性質を、あとから運用でがんばって足すのではなく、最初から設計に埋め込んでおく。

重要なのは、これが「間違えないシステム」を目指す話ではないことだ。前提はむしろ逆で、システムは間違える。AIならなおさらだ。だから信頼の条件は、誤りが起きないことではなく、誤りが見える形になり、訂正され、その過程を誰もが確かめられることに置かれる。信頼とは、正確さの証明ではなく、直せることの証明なのだ。

インターネットには「出典と責任を覚える機能」がない

では、なぜいまのデジタル空間では信頼が成立しにくいのか。タン氏はその原因を、AIの登場よりずっと前、Webの設計そのものまでさかのぼって説明した。

例に挙げられたのは、ハイパーテキストの父テッド・ネルソン氏だ。ネルソン氏が1960年に始めたプロジェクトXanaduでは、すべてのリンクが双方向だった。引用は常に出典と結ばれたまま移動する。「transclusion(トランスクルージョン=参照による埋め込み)」と呼ばれるこの設計では、来歴(provenance)が文章と一緒に旅をする。誰の言葉で、どこから来て、誰が責任を持つのかが、常にたどれる世界だ。

ところが、実際に普及したWebのリンクは一方通行で、引用はコピーした瞬間に出典を忘れる。タン氏の言葉を借りれば、人類は史上最強のコピー機を作りながら、出所と責任を覚えておく部分を実装しなかった。「信頼を取り戻す」とは何か新しいものの発明ではなく、60年前から未完成のままの機能を、ようやく作り込む作業なのだ、というわけだ。

暗号は嘘に署名できてしまう

Fpos0045

その未実装の部分を、タン氏は三つの問いに分解した。「誰が言っているのか(Authentication=認証)」「本物か(Authenticity=真正性)」「間違っていたら誰が直すのか(Accountability=説明責任)」だ。

前の二つには、暗号技術がよく答える。日本にはマイナンバーカードをはじめ、そのための成熟したインフラがすでにある。FPoSのような認証基盤も、この層を支える技術だ。しかし三つ目の問い「システム自体が間違えたとき、誰が答え、誰が問い、誰が訂正し、どれだけ速く直るのか」には、暗号は答えられない。署名は数学的に完全でも、嘘に署名することはできてしまうからだ。

この抜け穴を突かれた結果が、詐欺の急増だとタン氏は指摘する。日本では前年、特殊詐欺の被害が1400億円超、SNS型投資詐欺が1200億円超に及んだという。有名人の顔を無断で使った広告に始まる詐欺は、暗号を破ったのではなく、人々が差し出した信頼のほうを悪用した。だからといって「誰も信頼するな」は対策にならない。互いを信頼しない社会は安全になるのではなく、孤立して、それでも詐欺に遭う、と。

なお、タン氏自身の経歴も、この「説明責任」の実践そのものだった。台湾のシビックテックコミュニティ「g0v」は、使いにくい政府サイトのドメインのgovをg0vに変え、使いやすい版を勝手に作って公開する「fork the government(政府をフォークする)」活動で知られる。2016年、政府はg0vを訴える代わりにタン氏を入閣させた。タン氏は自分が議長を務める会議やロビイストの訪問、取材をすべて文字起こしして公開する条件を書面で交わし、これを特別に過激なことではなく、「普通の説明責任(ordinary accountability)」と呼んでいる。

台湾で実証された「説明責任の設計」

では、説明責任を設計に組み込むと、実際に何が起きるのか。講演の中盤は台湾の実例が並んだ。いずれも、市民に「検査する力」「異議を申し立てる力」「やめる力」を渡す、という一点で貫かれている。

マスク在庫のオープンデータ(2020年):政府が公式マップで市民と競うのではなく、薬局の在庫フィードをAPIで公開し、市民が可視化ツールを自由に作れるようにした。データを検査する力の開放だ

政府SMSの「111」統一:政府を名乗るメッセージが本物かどうかを、市民が3桁番号ですぐに判断できる。市民が認証されるだけでなく、制度の側が市民に対して自分を認証する

Humor over Rumor(噂にはユーモアを):誤情報は削除ではなく、速く正確で楽しい訂正で上書きする。市民参加型ファクトチェック「Cofacts」も噂への対応を可視化した。字幕の話と同じ「公開の場での訂正」である

1922接触確認SMS:収集は会場コード・電話番号・時刻のみ、28日で自動削除。「終われるシステム」であることが信頼を支えた

選択的開示ウォレット::確認する側は、必要な一つの事実だけを知る。18歳以上であることは誕生日なしで、居住者であることは氏名なしで証明できる

広告主確認法(2024年7月):大規模広告プラットフォームに広告費の支払者確認と詐欺広告の拒否を義務づけた。規制対象チャネルでは、有名人なりすまし詐欺広告が週38,000件のピークから数百件まで減り、98%以上が失敗するようになったという

失敗例も語られた。台湾の新しいeID計画は、市民社会の問いに答えられず延期された。タン氏はこれを「中止させられた失敗」ではなく「設計による信頼が機能した例」と位置づける。市民の異議で止まれる政府のほうが、発売日を守るだけの政府より信頼できる、という理屈だ。

AIエージェントは「機械速度で動く委任状」

終盤の主題は、エージェントAI時代の信頼だった。

Fpos0066

生成AIによって、顔を見る・声を聞くだけでは本人確認ができない時代が来た。タン氏は「署名のない動画は、署名のない小切手と同じ程度にしか信頼できない」と表現する。フェイク検出器に頼る対策は生成技術の後追いでしかなく、持続的な解は、コンテンツ自体が暗号学的に来歴を持ち運ぶこと——Content Credentialsのようなオープン標準だという。Xanaduが目指した「来歴が一緒に旅をする」設計の、現代版といっていい。

そして、本人の認証情報を持って予約や支払いを代行するAIエージェントを、タン氏は「機械速度で動く委任状」と呼んだ。ここでも問われるのは説明責任の設計だ。各委任には「何を・誰のために・いつまで」の署名された範囲が要る。本人がワンステップで即時に取り消せて、行動ごとに人間が読める領収書が残ること。問題が起きたら、責任は「モデル」ではなく「委任(mandate)」に遡って問われるべきだ、と。

キーフレーズとして示されたのが「AI on tap, not on top」だ。AIは人間の上に置くものではなく、蛇口をひねれば使える道具であるべき。ローカルモデルをMacBook上で動かせば、機微な記録はラップトップの外に出ず、利用者自身が検査して止められる。検査する力とやめる力を、利用者の手元に残すという話だ。

台湾と日本が、今年からできる三つのこと

講演の終盤、タン氏は日本の聴衆に向けた具体的な提案を三つ挙げた。信頼について単一の国家的な設計図に合意する必要はないが、システムをまたいで人々が信頼できるための性質には合意できる。そして、この三つはどれも条約を必要とせず、今年から始められる、という前置き付きだ。

Fpos0071

一つ目は「Bridge our Wallets(ウォレットをつなぐ)」。台湾にはすでにBIDウォレットがあり、日本のID基盤も強力だ。両者の間のシステムがオープン標準で会話し、クレデンシャル(デジタルの資格証明)が国や事業者をまたいで持ち運べるようにする。単一の事業者が、公的か民間かを問わず、デジタル生活への唯一の入口になってはいけない。

二つ目は「Benchmark the Evaluations(評価を共有のベンチマークにする)」。台北で検証済みの詐欺の手口が、東京に現れたときに一から発見し直される必要はない。オープンな評価スイートを共有すれば、互いの経験から学べる。共有されたテストの一つひとつが、複利で増えていく預金になる、とタン氏は表現した。

三つ目は「Broadcast our Losses(失敗を公開する)」。市民からの厳しい問いにまだ答えられず、システムが止まったのなら、その問いを公開する。こうした記録はこの分野で最も価値のある輸出品なのに、ほとんど誰も公開しない。公開されなければAIの学習データにも入らない。だからこそ、意識して利用できるようにすべきだ、と。

信頼は油ではなく、土壌である

Fpos0085

締めに、タン氏は信頼を「採掘する油ではなく、耕す土壌」にたとえた。信頼はシステムが問いに答えるときに育ち、ただ信じろと要求するときに死ぬ。共催のめぶくグラウンドの「めぶく」が日本語の「芽吹く」から来ていることにも触れ、信頼は外から設置するものではなく、土壌を整えて芽吹かせるものだと重ねてみせた。

最後のメッセージはこうだ。「The Singularity Is Near(シンギュラリティは近い)」と聞くたびに、「The Plurality Is Here(多元性は、もうここにある)」と思い出してほしい。なぜなら「We the People are truly the Superintelligence(私たち一人ひとりこそが、真のスーパーインテリジェンスである)」。

  • 記事を書いたライター
  • ライターの新着記事
リンクマン

リンクマン

コンテンツクリエイター

2011年よりiPhone、MacなどApple周りを中心にあなたの欲しい・知りたいを"つなげる"ブログとして、ウェブサイト「Linkman」を立ち上げる。Linkmanでは、主観抜き、報道スタイルの記事制作がモットーだが、違ったアプローチもしてみたくなり新しいチャレンジとして「Gadgetouch」を始める。そのほかにも、動画配信サービスの立ち上げ、アイドル番組などの制作・配信現場を経験。動画や音楽、機材を中心としたフリーランスの何でも屋として活動しながら、ただひたすらに浦和レッズを愛する、東京出身の元・サッカー少年。

  1. 「間違えないAI」を目指さない。オードリー・タンが語ったTrust by Designとは?

  2. 大学にApple Storeが出現!?近畿大学のオープンキャンパスに1日限りの特別なAppleブースが登場

  3. 発想の転換が面白い!紙にもiPadにも、切り替えなしでそのまま書ける。ゼブラ「STYLUS 2WAY」

RANKING
DAILY
WEEKLY
MONTHLY
  1. 1
  2. 2
  3. 3
  4. 4
  5. 5
  1. 1
  2. 2
  3. 3
  4. 4
  5. 5
  1. 1
  2. 2
  3. 3
  4. 4
  5. 5

関連記事

PAGE TOP