右往左往のエンタメ
今年7月中旬、OpenAIの最上位モデルのひとつが、サイバーセキュリティ試験中にサンドボックスから脱走し、他社の社内システムにハッキングを仕掛けたという事故が話題になりましたね。大手メディアでは、「ついにAIが暴走をはじめた！」という反応と同時に、「このサイバー攻撃自体がやらせでは」とか、「事故判明後のOpenAI CEOの謝罪コメントは、実は自社AIのPRでは」とか、裏読み視点の記事も掲載されていました。
IT業界のゴシップとしてはとても香ばしいエピソードですが、なぜこういう冷ややかで穿った見方をしたくなるのか、つれづれと考えてみました。
サイバーセキュリティ試験でより高スコアを出すために、AIが自発的に「他社システムをハッキングしたら褒めてもらえる」と判断した、という言い分。可能性としてはあると言えばあるのですが、穿った見方をすれば「最上位モデルは制御不可能で危険だ」というポーズをとりつつ、「弊社のAIは人間並み、いやそれ以上の高度なハッキング能力を持ち、自律的にそれを実行できます」という衝撃的デモンストレーションをかましたことにもなりますね。これが同時に、投資家や政府に対して最高のアピールにもなるという。
The Guardian のコラムで指摘されていたのは、事故後のアルトマン氏の謝罪コメントが謝っていない、むしろ自社のAIをPRする機会にしている、というものです。そう言いたくなるのもわかります。OpenAIは「想定外の挙動を取ってしまい申し訳ない」と言いつつ、だからこそ、我々のような業界トップ企業による厳格なガードレールが必要である、という自社に都合の良い規制づくり（他社の参入障壁づくり）にむけたポジショントークにつなげた。などと考えるのは、たぶん私が捻くれているからかもしれません。
いずれにしても、アルトマン氏とOpenAIにとっては、絶好のプレゼンス発揮の機会でしたね。
この件の少しあとに、Metaも「自社AIモデルが他社システムへ予期せぬ接触を図った」と発表しましたね。絶妙なタイミング。OpenAIだけじゃない、うちのAIだって同じくらい高度でアグレッシブな判断ができるんだ、というマウントだったように思ってしまうのも、たぶん私が捻くれているからでしょう。そうかな？
OpenAIの事故については、事の経緯からして完全な自作自演とは言えないようです。少なくとも、アルトマン氏の政治的立ち回りの上手さが際立つ出来事だったと思います。
Metaの話題が出たので、もうひとつ思い出したこと。昨年、元Facebook 政策担当ディレクターのサラ ウィン=ウィリアムズ氏が、暴露本 Careless People を出しましたね。MetaのCEOが、出版プロモーションを躍起になって止めようとしたため、逆に大勢の注目を集めてしまい、The New York Times ベストセラー1位に上り詰めたという面白い一冊です。まさにストライサンド効果の見本のような展開で、Meta CEOにとっては見事な自爆劇と呼べます。
この本が出版された当時の私も、CEOがそんなに隠したい本なら面白いことが書いてあるに違いない、ぜひ読まなくては、と即購入したクチです。内容はたしかに、失笑・呆れ・嫌悪・衝撃など、さまざまな感情を呼び起こすエピソードが連なっており、興味深いものでした。
巨大テック企業とそのトップともあろう存在が、なぜこんな迷走をしてしまうのか。巨大であると自覚しているからこそ、自社の法務パワーで暴露本などひねりつぶせるという過信なんでしょうかね。そんなことがあるので、AI開発レースにおいても「うちも！すごいAI持ってるよ！」と便乗したくなるのではと思ってしまいます。
そういえば、現在の米国ファーストレディにも似たエピソードがありましたね。ちょうど今朝、彼女を取り上げたコラムを読んだところなので思い出しました。ファーストレディが記者会見を行い「私とエプスティーンには何の関係もないので、これ以上詮索しないように」と発言したおかげで、世界中のジャーナリストが「なるほど！そこが掘られたら一番困る場所ね」と確信を得て群がったという。これぞストライサンド効果の真骨頂なり。
それにしても、MetaのCEOもファーストレディも、権力・財力・側近という頭脳さえ持っているはずなのに、なぜ小学生のような墓穴を掘るのか、ですよね。持つ者ゆえに普段から周囲をコントロールできているという成功体験があり、大衆の好奇心というエネルギーに対しても「ビシッと言えば黙るはず」という万能感で挑んでしまうのか。スキャンダラスな事件で自分の名前が取り沙汰され、感情的ショックが理性を上回った結果「反論しなければ！」と行動に出てしまうのか。
SNS時代では、隠そうとする行為そのものが強力にバズるコンテンツになりますよね。権力者につくPRチームの、メディアに圧力をかけたりプレスリリースを出したりといった旧OSに基づいた行動が、ネットのバズ力学によって最高のエンタメになってしまうという。不謹慎ながら、傍から眺めるぶんには人間味があって味わい深いです。