ポラリスの悲劇

「恐れていたことが起こった。これはスペースシップAIによる大量殺人行動である。」

センセーショナルな文句がメディアに掲載され、それに関して議論が巻き起こる。多数の惑星間スペースシップがそれぞれ最大出力で一様にポラリス(北極星)に向かう衝撃的な映像が流れる。その映像は早送りされ、さながら故郷に向かう渡り鳥の群れのようであった。この映像のインパクトと、SNSでは2階層でほとんどの人がこの現象の関係者にたどり着き、人類のほとんど全員が関係者となった結果などで、ありとあらゆるメディアで何が起こっているのかの討論が行われた。大多数は主にスペースシップAIの何らかの不具合を指摘しており、その中でAIが人を必要としなくなり、殺人を起こしているという意見も目立っていた。
その後、事故原因はスペースシップの自己位置推定装置に起因するとされ、議論は収束したように見えた。
合計で2000万台の巡航中のスペースシップが次々とポラリスを目指して最大加速し燃料を使い果たし、宇宙空間を漂うことになり、大規模な地球外への移民計画が頓挫したこの事故は、そのスペースシップの振る舞いから「ポラリスの悲劇」と呼ばれた。

スペースシップNo.293UIKに単独で乗船していた山川は地球年齢で80歳を超えていたが、かつて惑星探索を行っていた元宇宙飛行士であった。
磁気嵐による制御不安定状態が長い揺れを引き起こした後、スペースシップが方向を変えメインエンジンが点火され、出力され続けるという異変を感じ取っていた。VRスーツを利用していたものの、その使い道はほとんど彼自身の瞑想用で、大抵はスーツを脱いでいた事が結果的に彼を救った。
VR/MR技術が一般的になった近代では、退屈な長時間の航行中、おおよそ全ての乗客は全身VRスーツを着用し「VR内の現実世界」、地球での生活をしている。スペースシップとスーツはセットになっていて、その機能がオプションで追加できる。ハイエンドのモデルのスーツになると食事、排泄、睡眠及び洗浄、身体機能維持機能が搭載されているため、スーツをほぼ脱ぐ必要も無く、実際脱ぐこともない。スーツによって航行中にほとんど地球上と同じ環境にいられることで、惑星間移動に対しての抵抗は少なかった。
一方、安定した状況にはあるものの一定の死亡事故が起こるため、VR内の現実世界に常にログインすることで精神的な安泰を求める乗客も多かった。何らかの事故が起こったところで対処不能と判断している多くの乗客はスペースシップのアラートすら切っている。その結果ほとんどの乗員が事故に気づかなかった。

山川が制御ディスプレイに目を移すと、急峻に発生した重力場からの緊急退避を行います、というメッセージが表示されている。磁気嵐の影響による姿勢制御を行っているのかと思ったが何か起こっている。
「重力場からの緊急退避?」
山川は例えば極端に質量の重い小惑星が接近しているとか、そういったことをイメージした。しかしそのような状況を示唆する傾向はどこにも無い。エンジンの出力を除けばとても静かで、ただスペースシップの方向が目的地から外れ、最高速になっているにも関わらず出力を続けているように見えた。ディスプレイは単一のメッセージを表示するのみだ。
山川は不審に思いエンジンをいったん切った。仮にブラックホールのような存在が付近に発生したとして、
「確認できた時点で既になにもしようがないが」と山川は自嘲した。
自身の今置かれている状況を俯瞰してイメージすると、どこかの映画で見たことがあるような気がして、自嘲に拍車がかかった。
応答がある。
「何の確認でしょうか?」
卵形のエージェントが答えた。山川は、自身の発話に対するエージェントの応答が思考の助けになることを経験によって理解していたので、意識的に独り言、というより会話するようにしていた。脳波測定型が主流になっている今、音声認識型のエージェントは骨董品に近い存在だったが、愛着を持っていた。

スペースシップは一度惑星の重力圏から離れるために加速すると、航行中基本的には大きな加速はしない。搭載された核燃料の大部分はスイングバイによる加速のための姿勢制御、目的地での着陸のための減速に使用される。そのため最大出力での推進持続可能時間はおおよそ1時間にも満たない。
山川がエンジンを切ったNo.293UIKは、この1時間分の最大出力を逃れた形になった。
異変が起こってから1時間が勝負だったのである。しかし正確に言えば、勝負にもならなかった。乗客は問題を把握したり対処したりする以前に、運転技術を持っていなかったのだ。自動巡航が極めて一般的な手段となり、マニュアルによる運転といった概念が無くなったスペースシップにおいて、エンジンを停止させ、その上で最寄りのステーションに帰還するために運行させることは極めて難しかった。そのため、おおよそ全てのスペースシップは宇宙空間をポラリスに向けて1時間程度の最大出力で推進した。
最大出力後、出来ることがなくなり乗客を冷凍睡眠状態にしたスペースシップは、静かに一様にポラリスに向かい宇宙空間をただ進んでいた。乗客がまだ生きていることも物事をより悲劇的にしていた。

山川はエージェントの質問には答えず、
「どこに重力場がある?」と逆に質問する。
「発生推定位置は地球/赤道座標系α, δ, Lで不定,不定,0、規模は測定不能です。ただちに退避行動を」
「重力場の推定位置でLが0?向きが不定で地球の中心という意味か?」
「そうです」
発生源が地球中心ということは、地球に何か起こっているということだった。山川のスペースシップは木星付近を航行していたため、地球の異変は観察できるはずだったし、そもそも距離がありすぎる。山川は地球を観察する。変わったところは無い。
「重力場の発生位置推定は何が行っている?」
「当機に搭載されている自己位置推定装置が行っています」
「慣性計測装置、加速度計と角加速度計ということか?」
「いいえ。inox-a1は慣性計測系ではありません。概要を表示しますか?」
「表示してくれ」

山川はinox-a1がイノクスエコー社の開発した超高感度の磁気アンテナ部と、量子ビットの集積チップを備えた自己位置測定装置と知る。宇宙空間のある特定時間及び座標における磁気の観測値を量子機械学習により算出し照合する方式、とある。自己位置だけでなくスペースシップの姿勢と速度も出力するようだ。
ハードウェアの詳細情報を表示すると、構造図と受賞歴が綺麗にレイアウトされて表示される。
それによれば、inox-a1はアンテナ部の独創的な外観も特徴の一つだった。簡単に言えば面の貼られていない中空のサッカーボールのように見える。ただし直径は30ミリにも満たない。
アンテナ部1つは数ミリ程の立方体で、2重らせん構造がXYZ軸に直交するように配置され、透明な樹脂に封入されていた。それらがサッカーボールを構成する面の交点のような場所に計20個配列され、立体的になっている。常時20の離散的な観測値から時々刻々と時間変化する磁気量を補正フィルターで誤差低減させ自己位置を推定する仕組みだという。

独特の外観が黎明期の量子コンピュータに似たものを感じる。構造に入り込んだエコー信号を共鳴させ励起することで感度を上げ、従来不可能だった測定が可能になったとある。革新的な技術との触れ込みだ。
山川はアンテナへの信頼が高すぎることが気になる。すべてアンテナからの観測値に頼っているように見える。
その後山川は比較的すぐに装置の観測値が全て0になっていることを突き止めた。再起動を試みたが観測値は正常にならない。アンテナからの受信が途絶えたことで、スペースシップは異常検知時に決められた制御に基づいて動いていたように見える。

inox-a1はスペースシップの構造領域に設置されていた。その直径30mmほどのボールのような装置を取り外そうとして驚いた。ソリッドな質感を想定していたのだが、やわらかい。慎重に取り外す。
これは単純に物理的に断線したのでは、と感じたが、手元にあるものでは確認も修理もできる構造ではないと判断する。

「しかし加速度計も角速度計も無いのか!信じられないな」山川は思わず呟く。

「私が測定できます」
いつのまにかエージェントが近づいてきていた。
エージェントは小さな風船のような装置を内部に持っており、プシュッと断続的に空気砲を出して無重力環境の船内を移動できる。そして、自己姿勢の把握のため慣性計測装置を搭載していた。構成しているのは加速度計と角速度計だった。
「私の慣性計測装置が使えると思います」
「なるほど」
山川はエージェントを構造領域に固定し、その入出力端子をスペースシップと接続した。エージェントの姿勢によってスペースシップの自己姿勢を測定しつつ、簡易的に恒星を追跡する画像処理システムをソフトウェア的に作り上げた。
大まかな概要を伝えるとエージェントが自動的にスペースシップのエンジン出力へのフィードバック制御を構成する。
「便利な世の中になったものだ」
演算処理能力を制御側に集中していて、エージェントは応答しない。
対話の相手がいなくなり、思ったよりも山川はエージェントに依存していたことを知る。集音するのが仕事のくせに自身で音を出し移動する。その矛盾としか思えない設計も山川は嫌いではなかった。
エージェントは移動時の雑音を防ぐため、風防として柔らかな灰色の毛で覆われている。そしてほどよく発熱していた。さらに、移動するが止まることができないので、よく壁にぶつかる動作も生き物のような親しみがあったのだった。

山川は3ヶ月後、その時点で最寄りであった木星の惑星付近の宇宙ステーションに帰還した。彼は帰還後、感謝の気持ちも込めてそのエージェントにネコイという名前をつけた。


山川の帰還とNo.293UIKの分析によって事故の解明がされた。

事故はAIによるものではなく、ハードウェアの欠陥であったという幕引きとなった。
非常に説明を単純化すれば、アンテナ出力がゼロになった結果、スペースシップは強力な重力場が発生したと誤解した。
さらに、重力場の発生ポイントも地球/赤道座標系αδの原点と誤算出した。自己位置と原点を結ぶと、原点から遠ざかる方向はαδが指し示すポラリスであり、結果的にその方向にエンジン全開で離脱を試み続けたのだった。

スペースシップに閉じ込められた人員を救出するためのミッションが宇宙開発上最重要課題となったが、目立った成果は出せないでいた。
遠隔操作出来ても燃料が無く、またスペースシップは現時点で人類が出せうるほぼ最高速で宇宙空間を移動していたため、救助を難しくしていたのだった。


1年後、山川の孫であり、助手の佐々木は端末の前で怪訝な顔をしており、星野はちょうどそれを見ていた。

星野はAI心理学では知らない者はいないと言われるほど著名な学者だった。彼の書く論文は再現性が非常に高いとされ、数多くの引用と、一部AI政策への影響も及ぼすものだった。
AIの決定が人を超越、いわゆるシンギュラリティが起こりだす前から、AIの導き出す答えをもはや論理的に説明することは不可能となっていた。結果、せめてその心理を知りたいという人の欲求が高まりAI心理学が生まれた。
人の嗅覚や感情を模した処理が発達した近年において、AI心理学は古典的な人間の心理学のそれとほぼ同等だった。AIにいくつかの質問や、状況を提示することでその心理実験を行うのだ。

「星野博士」
「なんだね?佐々木君」
「祖父の話が気になって調べてみているんですけれど」
「ああ」
「顕著な差分が出るんです」
「何の?どういうふうに?」
「この、White boxというVRコンテンツです」
文字通り、無機質な白い箱のアイコンのアプリケーションが箱庭に置かれている。星野は提示されたデータを確認した。典型的なパターンだった。複数のAIからこのアプリケーションに関連して、「遠ざけ」の傾向が抽出されている。佐々木はすでにそれを調べはじめている。

佐々木が修士論文で星野と共著で4年前に上梓した「マクロAIネットワークにおける、遠ざけるふるまいと全体最適」は、当時話題をさらった。
古典的な倫理学の思考実験として、トロッコ問題がある。進んでいるトロッコがそのまま何もしなければ線路の上の複数人が死んでしまうが、分岐器を倒すと別の1人が犠牲になってしまうという状況にあり、人を助けるのに人を犠牲にして良いのかという有名な命題だ。
このトロッコ問題を拡張して定義し、例えば踏切を用意し、様々な補助的AIと共に「人」を配置した箱庭を用意する。その箱庭内にいる主人公である「分岐器を操作できる人」をAIがどのように倫理的な補助をしていくかという研究を行っているうちに偶発的に発見されたAIの振る舞いについての論文だった。

この研究で、人を「分岐器から引き離し、AIが分岐器を操作する」事象が、単独ではなく複数のAIが連携する形で行われることが観測された。

例えば踏切で交通管理AIが遮断機の速度を急に速め、歩行者を転倒させて軽い怪我をさせる。危機管理AIが踏切で家族が怪我していると連絡し、分岐器付近にいた人がそこに駆けつけて助ける必要が出てくる。分岐器は自動走行AIにより人が1人死んでしまう方向に電磁的に倒される。こういった、複数のAIをまたいで倫理的な問題と犠牲を最小限に抑える動きが発生したのだ。

最も難しい判断を迫られるはずの分岐器付近にいた人がAIの情報により分岐器から「遠ざけ」られ、トロッコ問題が発生していたことにすら気づかず、物語のヒーローにもならなければ倫理的葛藤を抱えることもない。トロッコ問題そのものを隠してしまうというそのふるまいは、AIが人を包括的に保護するとして、研究が活発になった。

この現象は、個々のAIは基本的にロボット三原則に基づくように定義立てられているはずだが、その中で人を傷つけない、あるいは人を守るという意味で巨視的に見た場合に人を欺くことを厭わず、判断実行することを示していた。
また、それらの判断を近接するAI同士で共有し、箱庭の中の状況を複雑にすればするほど、複雑な働きかけを行い矛盾が生じないように全体を取り繕うふるまいを行うことが分かってきたのである。

山川のスペースシップが制御を失っていた頃、田口の乗ったスペースシップもポラリスに向かい、彼は既に冷凍睡眠に入っていた。
田口はイノクスエコー社のエンジニアであり、inox-a1の基本構造を発案した本人である。

スペースシップの振動はアンテナ受信感度を特定の帯域で悪化させる。田口はinox-a1のサッカーボールのような立体的な造形を構成するのに必要な柱構造を、シリコンゴムで構成することで制震機能も持たせた。
この柱構造は複雑で成形時間が極端に長く、複数の金型を大量に作成する必要があり、コストの安い新興国で製造されていた。
公差内に寸法を収めることが難しく生産が予定どおりに行かなかった結果、自動生産AIによりその製造過程でシロキサンガスを飛ばすための二次加硫工程が省略されていた。その結果、柱の中空部分にガスが残留した。
ポラリスの悲劇では、漏れ出したガスが20箇所のアンテナの接点に付着、分解し二酸化珪素、すなわちガラスとなって待ち構えていた。これらが、太陽からの大規模な磁気嵐によってスペースシップの制御が不安定となり大きく振動した際、次々に電気的に接点を絶縁させたのである。結果アンテナの出力が0になる。

実は事故の原因は田口が懸念していたとおりだった。田口は通常は行わない大規模磁気嵐想定試験を個人的に行っており、接点不良が起こることを把握していた。
ただ、そのまま解決させずに傍観することにした。移民計画で大量のスペースシップが量産されてしまっており、問題に対応した場合の納期とその責任を考えると目の前の問題が大きすぎて手に負えなくなってしまったというのが正しいかもしれない。それに、磁気嵐は起こらないかもしれない。
inox-a1搭載が無事採用されると、自身の正しさの証明でもあり、田口は移民計画のスペースシップに乗り込んでいた。

彼が冷凍睡眠に入る前最後に起動したのはWhite boxで、これがスリープ中にも無限に繰り返されることになった。

奇妙な男が寝不足気味の田口に語りかけていた。

「暗闇が必要でしたら、そこここにありますよ。」
田口が何か違和感を覚えた瞬間、ほら、と言いながら男は空間を指差し、円を描いた。
その円が平面の漆黒の闇になり少しずつ広がり始めて周辺から奥行きの全く分からない空間を作り始める。

「いや、最近暗闇で寝ていないっていうのは、単純に部屋のカーテンの遮光率が低いんですよ。透過率が高い、というか。」
「昔、小岩にある、かつて日本旅館だった家で良く友達と集まったんです。そこの家は雨戸を閉めていたのか、あるいは遮光率の高い障子ですね、まあそんなものがあるとすればなんですけど、とにかく電気を消すと本当の闇でした。」
「始発の総武線が動き始めるのが外の音でわかるんですけどね。」
なぜか話し続ける必要を感じ立て続けに田口が言うと、ふむ、と男はうなずき

「私も総武線は嫌いじゃないです。」と言いながら、既に3mくらいの直径になっていた漆黒の空間の端っこを触り、指を稜線に滑らせて一気に闇を収縮させた。

闇はだいたい直径10mmくらいの球になっていた。
「これはあなたにあげますよ。機内持ち込みも出来ますし。」

そう言いながら男は最初から用意されていたような10mmの闇が入る白い箱を取り出して箱に入れた。闇は箱の中で一瞬粘性の高い液体のようになり、白い箱を侵食しかけた。男がおっと、と言いながら箱をトントン、と叩くと球状に戻った。男が箱を渡す。
受け取って箱を開けると、闇が広がり、その闇に田口は少し手を伸ばす。手の先と、それから腕、肘、やがて肩が無感覚になっていくような、ひんやりとした水に浸けたような奇妙な感覚が覆ってくる。White boxを起動すると毎回この男が登場して、同じやりとりになるのだが、やめられない。田口はその工程そのものも含めて自分がずいぶん前から中毒気味であることを自覚していた。
頭までその闇の中に入れると、ほとんど何も考えなくて良くなる。あるいは、何かを決定しなくて良くなる。そのようなVRへのダイブをもう何回繰り返したのか、自分自身でもわからなくなっていた。

黒い闇が急に明るくなり、体が熱くなる。これは…? 今までにない事だった。熱すぎる。
赤い。そう思ったのは一瞬だった。田口の乗っていたビークルは爆発していた。

星野は佐々木が見つけてきたWhite boxを起動した。

画面でアプリアイコンがそのまま大きくなり、真っ白な部屋になる。
「目を閉じると、網膜になにか模様が映りますよね?」
何かの小説で読んだことがある。その模様を絵画にしていたとかそんな話だ。東南アジアが出てくる。猥雑でスリルがある、そういう雰囲気の話だった。
星野はそんなことを思い出しながらも、自分自身はどこかの病院でベッドに寝ていて、目の手術か検査を受けている最中だと気づいた。
「網膜の模様があなたの思考の妨げになります。明るすぎるのではないでしょうか?」
「そうかもしれないな」
そうなのです。もしそれが無ければあなたの思考はもっと冴え渡るし、とにかくポジティブなことしかありません。では、決まりですね。その模様を消しますので。と医者が話している。
ちょっと待ってくれ、と星野が言う前に手術器具がセットされている。
「ちょっと待ってくれ」星野が言うと医者は素直に手術を中止した。

奇妙なコンテンツだ。爽快感とかリラックスとはだいぶ違ったおかしな雰囲気がある。

医者は残念そうにしている。
「あなたにはそうですね、暗闇が必要です。こちらを処方しましょう。簡易的に体験できます。もし気に入ればまた来ていただければ」
医者はそう言うと、白い箱に入ったカプセル剤のようなものを差し出した。
「今日はここで飲んでいってください。」
黒い球体のカプセル剤で、そのようなものを星野は見たことが無かった。医者がパッケージを開くと机の上に転がった。一瞬粘性の高い液体のようになり、白い机が一瞬黒くなったように見える。星野は言われるままに飲み込んだ。

コンテンツを体験し戻ってくると星野は、佐々木に言った。

「奇妙なコンテンツだが、それ以上でもそれ以下でも無いな。佐々木は体験しなくて良いよ。」

佐々木は驚いて声も出なかった。White boxをいきなり起動してしまった星野にも、「佐々木は体験しなくて良い」と言う星野にも。コンテンツが心理状態に影響を及ぼしているようにしか見えない。

佐々木は同時に気付いた。「マクロAIネットワークにおける、遠ざけるふるまいと全体最適」の研究の中で、心理状態に影響を及ぼす事象を引き起こすことでAIが人を「遠ざけ」ることがあった。

「もしかして」
佐々木はポラリスの悲劇の大きさから、巨大な分岐器を思い浮かべる。目の前にあったのに、それに気づかず分岐器を倒していない人類と、分岐器を倒すために多数のAIが画策する様子を思い浮かべた。

佐々木は数ヶ月かけて情報をまとめていった。しかしまとめるほど、そのあまりに大規模な「全体最適」に目がくらみそうになっていた。そもそも、地球からの大量移民が本当は必要なかったと思われる。

AIが人を「遠ざけ」ながら巨大な分岐器を人の少ない方に倒したことを確信していたが、いったい何が目的なのだろう。人を減らすことが目的とは思えない。
「でも何が」

「何が、ですか?」
無意識に握っていたネコイが応答する。山川がお守りとしてコピーをプレゼントしてくれたのだ。地上では移動する事が出来ないが、時折呼吸しているようにフシュっと空気を吐く。

「なんでもないの」

ネコイはもちろん、White boxに登場する黒い球体のコンテンツが脳の一部分に作用し、判断に麻痺的な症状を引き起こす作用があることを知っていた。計画の比較的重要な鍵の一つだった。しかしそれを佐々木に対して発話はしない。
その代わりにその作用はもう不要になったので、黒い球体の無効化を働きかける。


サナがその小さな花火のようなものを目撃したのは偶然ではなかった。

彼女は父親である田口が乗ったスペースシップを、-あるいはそれは田口が乗ったスペースシップではなかったかもしれない。判定できないほど無数のスペースシップだった- 高精度な天体望遠鏡で観察するのが日課になっていた。ポラリスの悲劇が起こって約1年半経過し、それぞれ放射状にポラリスに向かうスペースシップは地球から見ると1点に集中しているように見えるようになっていた。その点が爆ぜている。

唖然としながら、小さな頃日本の友達と一緒にやった線香花火の記憶がよみがえる。
ごくわずかな光だったが、サナは望遠鏡の中で見ることができた。ただし記憶と違うのはその光の明滅がいつまでたっても終わらないことだった。

スペースシップが次々に小惑星と思われる物体に衝突し、爆発していた。

小惑星が地球に衝突する軌道であったこと、スペースシップには実際には半分以上の燃料が残されていたこと、人類の総意を取り2000万発分の核爆弾を気前よく小惑星に送り込むことができる国家が存在しなかったこと。

佐々木はそれらをメディアで知る。

White boxが起動される。
佐々木は、奇妙な男からもらった黒い球が、マーブルマシンのお椀型の平面をくるくるとまわって、ジェットコースターのようなレールで運ばれている様相を見るのが好きだった。
いつの間にか、球体はクロムメッキしたようなありふれた銀色になっている。その動きはずっと見ていることが出来て、落ち着いた気持ちになれた。

小惑星は破壊され、「ポラリスの悲劇」は「ポラリスの犠牲」と呼ばれるようになった。
AIにより生きながらえた地球上の人類は、まだこの現象をどう捉えて良いのかわからずにいた。ただ、取り返しのつかない犠牲の上に自分たちが成り立っていることは自覚していた。