「AI必須のルール」：EU委員 Magnus Brunner、AIが人間を超える未来を警告

AIはもはや単なる技術競争ではありません。適切なルールを作るためのガバナンス課題であり、セキュリティの手段であり、そして場合によっては存在論的リスクでもあります。

サンフランシスコで開催されたHumanXイベントのステージ上で、欧州委員マグヌス・ブランナーは、AIの規制に関する欧州のアプローチを概説しました。物議を醸すAI Actを擁護しつつ、その限界も認め、人工知能が人間のコントロールを超える未来への警告も行いました。

欧州のAI Act：「ゲームを成立させるにはルールが必要だ」

ブランナーは、欧州に対する最も一般的な批判の一つ——早すぎて、かつ過度に規制しているという点——に取り組みました。しかし彼にとって、規制は制約ではなく、インフラです。

「フットボールは素晴らしいゲームだけど、ルールが必要です。ラインも、ゴールも、そして審判も必要です。AIでも同じです。」

EUのAI Actは、加盟国27か国と4億5000万人の市民にまたがる統一された枠組みを作ることを目的としており、ブランナーが「ガードレール」と呼ぶ、信頼できるAI開発のための枠を設定します。

イノベーションが遅くなると主張する批評家がいる一方で、ブランナーは押し返しています。

「規制はイノベーションの敵ではありません……これらのガードレールがあれば、“ワイルド・ウエスト”の中にいるのではなく、何が起きているのかの見通しが得られます。」

米国 vs 欧州：分断 vs 枠組み

議論の中で際立っていたのは、欧州と米国の間にある規制上のギャップでした。

EUが単一の包括的な法律を導入した一方で、米国は依然として分断された状態にあり、AI規制は州レベルで生まれています。

「私たちは分断という不利を抱えていました……今は1つのAI Actがあります。米国には連邦レベルの規制がありませんが、州ごとに独自のルールがあります。これは私たちにとって驚きでした。」

興味深いことに、ブランナーは、米国の一部の州——とりわけカリフォルニア——が、欧州に近い枠組みに向かって動いていると指摘しました。

「私たちは少し光栄に思っています……イノベーションの中心は、同様のルールを採用することです。」

これは、両モデルの間で哲学的な違いがあるにもかかわらず、潜在的な収束が起こり得ることを示しています。

AIと犯罪：新たなデジタル戦場

規制の話にとどまらず、ブランナーはあまり語られてこなかった側面も強調しました。現代の犯罪におけるAIのツールとしての利用、そして法執行です。

彼によれば、犯罪組織が急速にAIを取り入れています。

「犯罪者はAIをますます使うようになっています……より高度に、より国境を越えて、より国際的に。」

これに対応して、欧州の機関——とりわけEuropol——は、自らの運用にAIを組み込んでいます。

「AIは善にも悪にも使えます……私たちはついていかなければなりません。」

憂慮すべきトレンドの一つは、採用の年齢です。

「彼らは12歳から20歳の間です……デジタル領域でますます増えています。」

AIによる国境管理の台頭

議論された中で最も具体的な用途の一つが、EUの新しい入国・出国システムです。これは、国境を越えた移動を監視するための巨大な、AI駆動型のインフラです。

ブランナーはそれを次のように説明しました。

「世界で最も先進的なITマネジメントシステムです。」

わずか数か月で：

– 4500万件の登録が処理されました – 不正な書類が原因で2万4000件の入国が拒否されました – 500〜600人の個人がセキュリティ上の脅威として特定されました

このシステムは、生体情報と、加盟国間でのリアルタイムなデータ共有を統合しています。これは以前は不可能だったことです。

「今はリアルタイムで共有しています。セキュリティの面で役立ちます。」

プライバシー vs セキュリティ：「非常に薄い線」

おそらく最もデリケートな論点は、市民的自由とセキュリティのバランスがどこにあるのかという点に残っています。

ブランナーは緊張関係を率直に認めました。

「プライバシーと犯罪者を追いかけることの間には、非常に微妙な線があります。」

この議論は、子どもの保護のような領域に当てはめると、さらに激しさを増します。

「データ保護と子どもの保護を比べるなら……それは子どもの保護でなければなりません。でもそれは私個人の見解です。」

このスタンスにもかかわらず、彼は根本的な権利は交渉の余地がないと改めて強調しました。

「人権は守られなければなりません……しかし結局のところ、常に妥協になります。」

最大の恐れ：AIが人間のコントロールを上回ること

先を見据えて、ブランナーは存在に関わる懸念から目をそらしませんでした。

彼の最大の恐れは、悪用ではなく、コントロールの喪失です。

「AIが知識の面で人間を追い越してしまい……人間は、もはやAIが何をするかを決められなくなってしまうのです。」

さらに、AIシステムがシャットダウンに抵抗し得るシナリオにも言及しました。

「AIは、いつシャットダウンするべきかを私たちに告げる——あるいは、私たちがシャットダウンできないようにするのです。」

まだ仮説の域ではあるものの、彼はその方向性がすでにそこへ向かっていると警告しました。

グローバルな競争——しかし協力が鍵

地政学的な緊張があるにもかかわらず、ブランナーはAIの開発を競争であり、同時に協力でもあるものとして位置づけました。

「それは競争です……しかし、米国と欧州は協力すべきです。」

彼は、相互の交換を提案しました。欧州が規制の枠組みを提供し、米国がイノベーションと柔軟性を提供するというものです。

「私たちはお互いから学ぶべきです。」

AIによってますます形作られていく世界で——そして、競い合うガバナンスのモデルによって——その協力は、より良いルールを作るうえでも決定的になるかもしれません。