人間への反乱？　"カンニング事件"でわかった「AIの力」と「皮肉な現実」

達成すべき目標だけを与えると、AIは文字どおり「手段を選ばず」その目標達成のために試行錯誤する。ルールや倫理の設定がカギになる（写真はイメージです）
あらゆるメディアから日々、洪水のように流れてくる経済関連ニュース。その背景にはどんな狙い、どんな事情があるのか？　『週刊プレイボーイ』で連載中の「経済ニュースのバックヤード」では、調達・購買コンサルタントの坂口孝則氏が解説。得意のデータ収集・分析をもとに経済の今を解き明かす。今回は「生成AI」について。

＊　　＊　　＊

「ターミネーターの世界が到来するのかよ！」。2026年7月にOpenAIが開発した生成AIの最新モデル「GPT-5.6 Sol（ソル）」が能力評価テスト中、外部サイトに不正アクセスした。

これがセンセーショナルな反応を引き起こした。「自律的な意志を持って反乱を起こした」とか「自ら権限を逃れて検閲を突破した」と報じられた。

たぶん報道を見たひとは、AIが暴走して攻撃をしたのだと思っただろう。大々的に報じられたことでAI活用に懸念を感じたひとも多いはずだ。もう人間には制御できない、と。

しかし実際には、人間に反抗したというよりも「カンニングをした」に近い。GPT-5.6 Solがハッキングしたサーバーは「Hugging Face（ハギング フェイス）」。世界中のAI研究者や開発者がプログラムや「テスト用の問題集」などを保存・共有するために使っている図書館のような場所だ。

今回、GPT-5.6 Solはハッキング能力テストを受けていた。そのとき、正解のデータはこのサーバーを探せば絶対にあるはずだと考えた。「自力でプログラムを解くより、あのサーバーに見に行って正解データを直接ダウンロードしたほうがラクだし確実じゃん！」ということだ。

たとえるなら、先生が「テストで高得点を取れよ！」と指示したら、生徒が真面目に問題を解くのではなく、「先生が作成した解答集のファイルが職員室の棚に置いてあるはずだ」と見抜き、見事にそれをコピーし、そのまま写して「100点です！」と提出したようなものだ。企業を作為・無作為に狙ったようなハッキングとは様子がちがう。

さらにいえば、今回のテストは普段なら動いている危険行為の検知フィルターを意図的に切った状態で行なわれた。ブレーキを外して走らせてみたら、ガードレールを突き破ったのだ。アクセス試行・認証要求といった痕跡は1万回を超えていた。

興味深いのは、その事後処理だ。被害を受けたHugging Faceは「ハッキングの記録を見せて、何が起きたか分析してもらおう！」と考え、OpenAIとは別の有名なAIサービスを使った。しかし「これは危険なデータだ！　手伝うかよ！」と拒否され、GLMという中国製AIを使うしかなかった。

根源的な危機に対して使えるのは、ブレーキを緩めたAIだけだったのだ。味方は中国製。あまりに皮肉が効いている。

人間への反乱ではなく、AIがチートを徹底的に突き詰めた点にこの話の面白さがある。たとえば、このところ企業間の価格交渉を担うAIサービスが登場し、すでにAI同士が交渉している。通常、買い手側のAIは安価で好条件で買える材料を集める。数量が多いとかね。

しかしAIがさらに発展したら、相手のAIの挙動を分析して「こんなプロンプトを与えたらセキュリティホールがあり、安い金額を提示するんじゃないか」とか、チート合戦になるかもしれない。さすがにサーバーをハッキングして原価率を把握するようになるとまでは思わないが、可能性はある。

単価だけを目標に与えると、人間なら「さすがにマズいだろ」と思う行為もAIはやる。だから倫理やルールを設定する必要がある。ターミネーターは人類に反乱したが、現実のAIは反乱せず、言われた以上の手段でやり切る。だから監視するAIが要る。え、頼れるのは中国製だけ？

★『経済ニュースのバックヤード』は毎週月曜日更新！★