「AI脅威論って『ノストラダムスの大予言』と似ているんです」と語る藤井太洋氏
「AI（人工知能）が人類を滅ぼす確率は10％」。米AI企業「アンソロピック」研究者の言葉だ。「AI脅威論」は今や花盛り、大昔のSF小説で描かれた未来像が目の前の現実として語られるようになった。
では、AIは本当に人類を滅亡させるのか。その進化は人類に何をもたらすのか。現実と地続きの近未来をシミュレーションするには、SF的な想像力が必要だ――ということで今回、日本の代表的なSF賞「星雲賞」を2回受賞した経歴があり、「人工知能学会倫理委員会」委員でもあるSF作家・藤井太洋氏に話を聞いてみた。
藤井太洋氏の作品を一部紹介すると、『ジーン・マッパー』では遺伝子工学、『オービタル・クラウド』（共にハヤカワ文庫JA）では宇宙開発、そして『マン・カインド』（早川書房）では先端テクノロジーが充満した世界の未来の戦争を描いてきた。
多岐にわたるテーマで最新のテクノロジーが社会に実装された際の影響をリアルに紡ぐ藤井氏は、人工知能学会によるSFアンソロジーにも参加するなど、AIの進化とその影響に作家として向き合ってきた人物でもある。
そんな藤井氏は、「今のAI脅威論は、ノストラダムスの大予言に似ている」として、次のように指摘する。
「ノストラダムスが予言を遺（のこ）したのは16世紀ですが、大騒動になったのは地球の破滅が到来するとされた20世紀末でした。AI脅威論も同じように、『もうすぐ破滅がやって来る』と近未来に終末が設定されています。しかも、人類滅亡の定義や原因が具体的ではなく、論者によってバラバラである点も共通している」
ただし、かつての終末論とは違うのは、今回のAI脅威論を語っているのは、オープンAIやアンソロピックといった、災いの大本であるAIを開発する当事者自身だということだ。そのことがAI脅威論の〝信憑性〟を高めている。しかし、藤井氏はこう話す。
「私自身、執筆をサポートするソフトの開発にAIを活用したり、作中の設定を管理するアプリケーションを自作したり、日常的にAIを駆使することで、過去できなかったことができるようになっていることを実感しています。
だからこそ、『このままでは危険ではないか』という声があることも理解できます。しかし、今の段階から人類滅亡までは技術的に何段階も先であり、懸念にしても飛躍しすぎではないかと正直思います」
米アンソロピックのダリオ・アモデイCEOは、業界全体の最先端AIの開発ペースを落とすよう提唱している
では、映画『ターミネーター』のように人類と機械の戦争が起こるようなことはない？
「そうした物語はエンタメとしてわかりやすいため量産され、今の脅威論にも影響を与えていますが、現実的ではありません。なぜなら私たちの社会はリスク分散のために『単一障害点』を持たないようにつくられているからです。
例えば、会社で新規事業を立ち上げる際ですら、何段階もの稟議を経て上長の承認を得なければ、社員は1円の資金も動かせません。これが核ミサイルの発射システムだとしても同様で、厳重な多重認証が設けられています。発射ボタンをハッキングさえすれば誰でも撃てるような仕組みにはなっていないのです」
それゆえ、AIの暴走ですぐ世界が破滅する事態は考えにくい、と藤井氏は話す。
「もし人類滅亡をリアルに想定するならば、いくつもの段階を経てリスク分散の仕組みが徐々に壊れていくプロセスが必要であり、その場合、AIは滅亡の要因のひとつに過ぎないと思います。
未知のウイルスの誕生や自己増殖型機械の暴走など、テクノロジーの進化によるリスクは常に存在しますが、それは『隕石衝突の確率はゼロではない』と語るのと同レベルの議論であり、想定としては面白く有意義ではありますが、現実のAI脅威論とは分けて考える必要があります」
古くからSFの世界ではテクノロジーによる人類滅亡のシミュレーションが描かれてきた。小松左京の『復活の日』（角川文庫）では極秘開発された細菌兵器が滅亡の引き金になったように、AIの台頭以前から作家たちはさまざまな分野の技術進化をベースに「滅亡のシナリオ」を創作してきた。
「実際、AIも主要なモチーフのひとつではありました。ただ、現代のSF作家の関心は『AIが社会に浸透したとき、人間の意識や生活はどう変わるのか』という思考実験へとシフトしています。
人工知能が人類の健康も意識も徹底的に管理する未来を描いた伊藤計劃（けいかく）の『ハーモニー』（ハヤカワ文庫JA）や、AIペットが普及した時代の機械の権利を問うテッド・チャンの中編『ソフトウェア・オブジェクトのライフサイクル』（ハヤカワ文庫SF『息吹』に収録）などが読者からも高く評価されています。
中国でもAI研究者の李開復（リー・カイフー）が予測した未来像をSF作家の陳楸帆（チェン・チウファン）が小説化した『AI 2041 人工知能が変える20年後の未来』（文藝春秋）という本が大いに話題となりました」
藤井氏自身も、最新のテクノロジーが私たちの価値観や生き方をどう変容させていくかというテーマに強い関心を寄せているという。その変化は必ずしもバラ色ではない。新たなテクノロジーは新たな社会問題も生む。
「私も参加した人工知能学会のアンソロジー『AIと人類は共存できるか？』（早川書房）では、長谷敏司（さとし）さんという作家が非常に皮肉な短編（『仕事がいつまで経っても終わらない件』）を寄稿されていました。
人間の負担を減らすためにAIを導入したはずが、AIが頭脳労働の核を担うようになり、人間はAIが出力したデータの修正やサポートといった膨大な雑務に追われ、職場がブラック化してしまう。これは極めてリアルな未来像だと思います」
事実、海外のイラストレーターやデザイナーの業界では、創作物を生み出すクリエイティブな工程をAIが担い、それを人間が修正させられる仕事が大量発生中だという。
「小説家にとっても人ごとではありません。そのくらい今の社会は急速にAIへの依存度を高めています。私が本当に怖いと感じるのは、まさにこの点にあります」
これまで人類はリスク分散のために単一障害点を社会から排除してきた。そこが壊れると社会全体が破滅するといったポイントをつくらないようにしてきたわけだが、AIが影響力を増すほどに、この状況は変わりつつある。
「現在、社会を支えるほどの高性能なAIを生み出しているのはアメリカの数社だけ。しかも今のAI開発は、AGI（汎用［はんよう］人工知能）が完成した瞬間にすべてのAIが駆逐され、1社だけが覇権を取るという想定で熾烈な競争が行なわれています。これは人類が自ら社会に新たな単一障害点をつくり出そうとしているように見えます」
リスク分散とは真逆の方向に技術が進化している？
「そうです。AIの性能が向上し、社会の依存度が高まれば高まるほど、皮肉なことに人類滅亡のリスクは増大していきます。この『社会が単一のシステムに依存することの危うさ』を描いた名作SFがあります。1979年に発表されたジェイムズ・P・ホーガンの『未来の二つの顔』（創元SF文庫）です」
社会全体を管理できるほど高性能なAIが誕生した近未来。しかし、その危険性を巡って国際的な議論が勃発した結果、巨大な宇宙ステーションをひとつの社会に見立て、「管理AIに意図的に反乱を起こさせたらどうなるか」という実験が行なわれる、という内容だ。
「小説ではAIが自らの生存のために人間に攻撃を開始し、それが人類の存亡をかけた戦いにつながります。半世紀近く前の作品ですが、社会に単一障害点をつくることのリスクを見事に描いています」
しかし、小説と現実社会とでは決定的に異なる点がある。それは現実では社会の命運を握るほどの高性能AIを、ごく少数の私企業が管理・独占しているということだ。
米オープンAIのサム・アルトマンCEOはAIの発展がもたらす恩恵を重視し、「多少の悪影響は許容すべき」としている
「かつてIT業界で一極集中が起きそうになった際、社会にはそれを防ぐ安全弁が機能していました。
マイクロソフト（MS）によるOS市場の独占が問題視されたとき、アップルに復帰したスティーブ・ジョブズがMSにマック向けブラウザーを一定期間提供させて一強状態を防ぎ、その間に現在の『クローム』の基盤となる『ウェブキット』を開発して寡占を防いだ歴史がある。企業側も独占禁止法による解体を恐れ、自ら事業を分割するなどの自浄作用を働かせてきました。
しかし、現在の巨大なAI企業たちに、そうした安全弁は働きにくくなっています。各社のCEOは、『社会がAIを受け入れるための猶予期間をつくるべきだ』と開発の減速を主張していますが、米中対立が激化する中で、トランプ米大統領は『AIの性能は安全保障に関わる』として、むしろアクセルを踏むことを奨励している状況です。
AIを作り、その暴走を監視する企業を監視する主体がいない。これが私たちの直面している『本当のAIの脅威』です」
では、その脅威にどう向き合うべきなのだろうか？
「SF作家のテッド・チャンが、『チャットGPTはウェブのぼやけたJPEGだ』と指摘したように、今のAI開発の主流であるLLM（大規模言語モデル）は意思を持って思考しているのではなく、ウェブ上の膨大なデータを圧縮し、それらしい回答を統計的に出力しているに過ぎません。どれほど高性能に見えても、AIは便利な道具に過ぎないのです。
AIが万能であるかのように錯覚すると、私たちはとんでもない方向へ流されてしまいます。最も危険なのは、何か問題が起きた際に『AIがやったことだから仕方ない』と責任の主体を曖昧にすることです。
今のAI脅威論は人工知能が勝手に人類を滅ぼすかのようにイメージされていますが、それは『核ミサイルが自ら人類を滅亡させる』と言っているようなもの。まずは人間の責任を直視することが、AI脅威論との正しい向き合い方でしょう」
●藤井太洋（ふじい・たいよう）
1971年生まれ、鹿児島県奄美大島出身。ソフトウエア会社に勤務する傍らスマホで執筆した長編『Gene Mapper -core-』を2012年に電子販売。当年のKindle本で最多販売を記録した。14年刊行の『オービタル・クラウド』（ハヤカワ文庫JA）が第35回日本SF大賞と第46回星雲賞日本長編部門、19年に『ハロー・ワールド』（講談社）で第40回吉川英治文学新人賞、22年に『マン・カインド』（早川書房）で2度目の星雲賞（第53回、長編部門）を受賞。第18代日本SF作家クラブ会長（2015～18年）。人工知能学会倫理委員会委員（2018年～）
