人工知能が人間より高い知性を持つようになったとき何が起きるか？
第3部 気候変動の見えない脅威
テクノロジーは解決策となるのか？ より
私たちを救うのはテクノロジーだ。だがシリコンバレーの未来主義者たちが提起するのは、おとぎ話に毛が生えたようなものばかり。画期的な事業を立ちあげたり、そこに投資したりする人間は、世界の未来を見とおす占い師のようにもてはやされてきたが、気候変動を本気で案じている者はほとんど見あたらない。グリーンエネルギーに申し訳程度の投資をしたり（イーロン・マスク7とビル・ゲイツは別だ）、たまに慈善活動に寄付したりするぐらいで（ここでもビル・ゲイツは別）、エリック。シュミットが言ったように、気候変動はすでに解決ずみとばかりにすましている。それは技術革新、なかでも自分で勝手に賢くなってくれる人工知能（AI）の進歩を考えれば、いずれ解決策は見つかると高をくくっているだけなのだが。
テクノロジーを、気候変動のみならずすべての問題とその解決策を包含する上部構造に祭りあげる見かたもある。それに従うならば、テクノロジーの唯一の脅威はテクノロジーから出現することになる。シリコンバレーの連中が気候変動よりAIを恐れる理由もそれだろう。自分たちが野に放った技術が力を持ちすぎることが、真の恐怖なのだ。真の恐怖なのだ。カウンターカルチャーの永遠の聖地、ベイエリアで、スチュアート・ブランドの全地球カタログ誌をきっかけに出現した世界観が、奇妙な進化を遂げつつある。政治の圧力にさらされるソーシャルメディアが、いまひとつ鈍い対応しか見せないのもそういうことだ。
・
人類が滅亡するレベルの脅威を、一度に2つ以上頭で考えるのは難しい。それをやってのけるのが、AIを論じる哲学者ニック・ボストロムだ。2002年に発表した論文のなかで、彼は「生存リスク」を23種類あげている。生存リスクとは、「何らかの有害ななりゆきによって、地球生まれの知的生命が根だやしになるか、その能力が恒久的かつ徹底的に損なわれる」ことを意味する。
制御不能に陥ったAIが人類の存在そのものを脅かす――そんな運命を思いえがく知識人はほかにもいるが、気候変動を要因に加えているのはボストロムだけだ。彼独自のリスク分類のひとつに「バン」がある。その定義は「地球生まれの知的生命体が、偶発もしくは故意の破壊行為が引きおこすとつぜんの災害で絶滅する」というもので、気候変動はここに入っている。
「バン」に分類されるリストは気候変動だけではない。さらにボストロムは、気候変動に隣接するリスクとして「資源枯渇もしくは生態系破壊」をあげている。これは「クランチ」と名づけたリスクに分類される。「生命は何らかの形で継続するが、人類がポストヒューマンへと進化する可能性は完全に閉ざされる」という。クランチに入るリスクはほかにもあるが、最も象徴的なのが「テクノロジーの縛り」、つまり「技術的な困難が露呈して、ポストヒューマンへの移行が無理だとわかる」ことだ。ボストロムが規定したリスク分類はあと2つ。「シュリーク」と「ウィンパー」だ。前者は「ポストヒューマンが部分的に実現するものの、可能性の幅が狭すぎて少しもありがたくない」こと。後者は「ポストヒューマン文明が誕生するが、進化がおかしな方向に進んで、価値あるものが完全に消滅したり、ほんのわずかしか実現しなくなる」ことだ。
すでにお気づきのように、ボストロムは「人類滅亡のシナリオ」の分析から始めているにもかかわらず、人類が出てきるのは「バン」までで、そこから先はポストヒューマンや「トランスヒューマン」の話に終始している。テクノロジーの発達で人類は一線を越え、進化の枝わかれが起きたとしか言いようのない新たな状態に移行するということだ。具体的には、ナノボットが血管内を縦横無尽に動き回ってガンを診断したり、ひとりの人間を丸ごとコンピューターにアップロードすることだったりする。人新世の議論にも通じるところがありそうだ。荒廃した環境のなかで生きていく重荷はどこへやら、テクノロジーが苦境からの脱出速度を与えてくれるのだろうか。
こうした未来像をどこまで本気にするかは判断が難しいところだが、シリコンバレーの未来主義者たちのあいだではもはや常識に近い。彼らは、前世紀にいまの未来を形づくったNASAやベル研究所に続く立場にあるが、未来の実現に要する時間に関しては意見がいろいろだ。ペイパル創業者のピーター・ティールあたりは、技術革新の遅さにいらついているかもしれない。彼は不老不死の怪しげな研究に投資したり、文明崩壊をまぬがれると信じてニュージーランドに土地を買ったりしている。Yコンビネーターの会長サム・アルトマンは、すべての人に一定額の所得を保障するベーシックインカム・プロジェクトを試行したり、気候工学で環境問題を解決する提案を募集したりと、テクノロジーを通じた社会活動に熱心だ。最近では、生身に宿る精神をコンピューターに保存する脳アップロードプログラムに申しこみ、手付け金もすでに払ったという。
ボストロムにとって、人類の目的はポストヒューマンをつくりだすことだ。科学技術者の最大の任務は人類の繁栄と幸福を実現することではなく、永遠に続く次の存在への門戸を開くことだ。
だがそこをくぐれず、置きざりにされる人は多い。高速でインターネットに接続できない人は、まだ世界に何十億人といるのだ。使いきりのSIMカードでは、脳の中身をクラウドにアップロードするのは難しい。
置きざりにされる人びとは、すでに気候変動で痛い目にあっている。それは人類全体のリスクでもあると考えるのは、ボストロムひとりではない。大きな気候災害が起きるたびに、何千、何万という科学者が警戒を呼びかける。「存在の脅威」を繰りかえし語るバラク・オバマを、ヒステリックと笑うことはできない。それでも人びとはテクノロジーという明るい面につい目を向けたがる。だが、地球以外の星を植民地にするとか、テクノロジーで生き物としての限界を超えるといった荒唐無稽の話はさておき、気候変動による人類滅亡の可能性を前に、慰めや目的を与えてくれる宗教のようなよりどころはまだ生まれていない。
