AIの発達と人類滅亡の危機?

トランスヒューマニズム思想の成立ち


シャルル・ペラガン(Charles Perragin)

ギヨーム・ルヌアール(Guillaume Renouard)

ともにジャーナリスト、フリーランス・ジャーナリストのグループであるCollectif Singulier 所属


訳:村上好古


 人工知能の発達は、それが人間生活を豊かにするという期待とともに、いずれ機械が人智を越え、人間が機械に支配されるのではないかという恐怖を与えている。トランスヒューマニズムという言葉が、人類の将来にこうした終末を予言する言葉として使われることもあるが、そうした思想はどのように、また何かの意図を伴って形作られてきたのだろうか。[日本語版編集部]

(仏語版2018年8月号より)

photo credit: Singularity Eddi van W

 「汎用人工知能[訳注1]の発達は、人類の終末を意味するかもしれない」。2018年3月、スティーヴン・ホーキングの訃報が広まった時、宇宙物理学者である彼のこの有名な言葉が新聞紙上やインターネット上を飛び交った。長い間、サイエンス・フィクションの世界に閉じ込められていたが、ここ数年来、人工知能の恐怖が、時には仕事が自働化されることや失業、時にはいかにも恐るべき殺人ロボットと関連付けられ、一般の議論に浸透している(1)

 哲学者で研究者のニック・ボストロム(2)から、テスラやスペースXの創業者であるイーロン・マスク氏に至るまで、さまざまな人物が、「超知能(superintelligente)」かつ制御不能になる可能性のある機械が引き起こすかもしれない人類に重くのしかかってくる危険に対し、多くの警告を発している。テスラのオーナーにとっては、その危険は核爆弾をさえ凌ぐという。こうした懸念にさらにトランスヒューマニズム[訳注2]に対するものが加わる。これは1980年代にシリコンバレーで生まれた思想で、新しいテクノロジーと人工知能を使って人間の肉体的、知的な改良を進め、いずれは人間と機械が結合することを想定している(3)。経済学者で哲学者のフランシス・フクヤマは、2002年からすでに、そこに人類史における最も大きな危機を看取していた(4)

 機械がやがて人間を追い越すだろうという仮説には、ある名前がついている。それは「シンギュラリティ」(技術的特異点)[訳注3]というもので、アメリカのSF作家ヴァーナー・ヴィンジが1993年に発表した「来るべきシンギュラリティ」(The coming technological singularity)という論文で初めて使われた(5)。この言葉は、人工知能が我々の知能を追い越すことになる未知のある日、すなわち我々人間の頭では想像できない新たな時代が始まるその時のことを指している。ヴィンジ自身には何人もの先行研究者やインスピレーションをかき立てる人たちがいた。それは、数学者スタニスワフ・ウラムが進歩は指数関数的に加速すると空想したことに始まり、統計学者アーヴィング・ジョン・グッドによる超高知能機械についての仮説を経て、アイザック・アシモフ(『最後の質問』The Last Question, 1956[訳注4])やフィリップ・K・ディックの著作(『ヴァルカンの鉄槌』Vulcan’s Hammer, 1960[訳注5]、『電気蟻』The Electric Ant, 1969[訳注6])へと続いている。

 シリコンバレーの企業および組織内の頭脳によって重要問題に仕立て上げられ、シンギュラリティは2000年代になってひとつの思想へと変化した。トランスヒューマニズムの信奉者でグーグル社の研究員レイモンド・カーツワイル氏のような何人かは、破局ではなく望ましい状況をそこに見ている。このようなテクノロジー楽観主義者は少数派であるが、これらの技術者は皆、あるひとつの点について意見が一致している。それは、不可避かつ指数関数的に技術が進歩することで、シンギュラリティが必然的に到来するということだ。大事なのはそれを防ごうとすることではなく、それによってもたらされる否定的な結末を一定限度に食い止められるよう人類をその到来に準備させておくことだ、ということになる。

「進歩のエロス化」

 しかしながら、ひとつの矛盾が明白だ。それは、終末を予想するか予防を考えるかいずれの場合であっても、そのシナリオを論じている研究者や企業が、自分たちがそれに反対して立ち上がっている何ものかの開発に自ら携わっているということだ。私たちを機械の反乱から守るためと称し基準だとか規則だとかを定める倫理委員会や組織が、シリコンバレーの潤沢な資金供給を受けてどんどん増えている。

 たとえば2015年に設立され人工知能の開発を推進する非営利団体「オープンAI」(OpenAI)は企業経営者によって設立され、そこにはマスク氏、非常に有力なインキュベータ―である「Yコンビネーター」(Y Combinator)の経営にあたるサム・アルトマン氏、ペイパル(PayPal)の共同創設者であるピーター・ティール氏、などの名が見られる。テクノロジーの発展に関連する「人類存在のリスク」を減らそうという「未来生命研究所」(Future of Life Institute)は、ほかでもなくスカイプの共同創設者であるジャン・タリン氏によって始められたが、マスク氏から1000万ドル(850万ユーロ近く)もの寄付を受け取った。「人類の偉大なる挑戦」に立ち向かう情報産業の主役たちを教育し責任感を育てることを目的としたシンギュラリティ大学(Singularity University)は、カーツワイル氏だとか、小惑星の鉱物資源開発や宇宙観光事業の専門家であるピーター・ディアマンデス氏をはじめとする経営者、技術者、エッセイストたちの資金によって開校された。「[AIテクノロジーについての]ベストプラクティス」を推進するために2016年9月に華々しく開設された「人々と社会に役立つAIについてのパートナーシップ」(Partnership on AI to benefit people and society)と言えば、その設立者には、グーグル、アップル、アマゾン、マイクロソフト、IBMなどが入っている。ここにはさらに多くの名前が並んでいるが、これらすべての企業は、ディアマンデス氏の次の信念を共有している。「いつか政治の指導者は目を覚ますだろう、しかしそれでは遅すぎる。我々は彼らに先んじなければならない。私は、政治家、あるいはさらに政治そのものの力よりも、企業家の力を信じる(6)

 その著作『そろそろ、人工頭脳の真実を話そう』(Le mythe de la Singularité)の中で、情報学者で哲学者のジャン=ガブリエル・ガナシアはこうした状況を次のように要約しており、その内容は機知に富んでいる。「私たちが目にしているのは『火付けと消火を両方やる人』なのだ。彼らは自分で火をつけておいて、自分たちが立派に振る舞っているように見せるため、これを消すふりをしている」(7)。慈善事業だと称するが、実のところこれらの企業の税務面や労働法分野での行動振りにはあまりそぐわない。自分たちが開発しているテクノロジーの結末について研究者や哲学者の口を通して不吉な予言を広める組織に、彼らは一体なぜ資金を投じるのだろうか。

 マスク氏やフェイスブックの創業者であるマーク・ザッカーバーグ氏が、啓蒙主義から生まれた進歩の理想について、これを実現し継続する使命を本当に託されているのだと思っていようがいまいが、彼らがやはり実業家であるに変わりはない。彼らの成功は、ここ20年ばかり翳りの見られるひとつのモデルに由来している。ある問題を喧伝する一方、あらかじめその解決を事業化して待ち構える、というものだ。寿命を延ばしたり、精神的・肉体的な能力を拡張したりすることは将来の有望市場であり、2020年以前に10億ドルを凌ぐ規模になる可能性がある。このことは格好の宣伝材料にもなり、デジタル産業を人間の未来の、そして投資家の関心の中心に置くことになる。ローザンヌ大学で科学とともに社会的な目で医学研究を行うフランチェスコ・パネーゼ教授は、ここ数年来、ユートピア的なものであれその反対のディストピア的なものであれ、「約束の経済」が興ってきているのを指摘する。「テクノロジーの分野での起業はベンチャーキャピタルの投資によって成り立っているが、この資本は、世界が大きく変化するという『約束』の内容に応じて投下されるのだ」と論じる。革新を行う技術専門家と専門知識のない資本家との間の隔たりを考えると、「進歩のエロス化――進歩という言葉にエロスを感じじっとしていられなくなる衝動」と社会学者が呼ぶものは、「素人の心をそそる」ということなのかもしれない。

 素人、と言っても、愚鈍ということではない。これらのテクノロジー上の「約束」は、メディアで報じられることは少ないが、実用についての議論を通じ着実に増えてきている。投資家は、宇宙旅行のため、あるいは死後再び生き返るために自分が低温保存されようとは内心思っていない。しかし、この研究が保存方法の進歩につながるだろう、そしてこのことはたとえば大規模配送業者に役立つだろうと知っている。だとすると、永遠の生命を「約束」するということは、タラの切身をよりうまく冷凍するということなのか? 「大学での研究でたいそう慎重を装っている多くの企業家や研究者は、記者にしゃべるときセンセーショナルな発言をする傾向がある。つまり、大多数は技術に対する知識が乏しく、ニューヨーク・タイムス紙やウォール・ストリート・ジャーナル紙を主な情報源にしている投資家への直接的なアピールを狙っているのだ」という見方が、カーネギー・メロン大学で機械の学習について研究しているザッカリー・チェイス・リプトンの自説だ。彼は、Approximately Correct(「おおむね正しい」)という自分のブログを持ち、人工知能に関する幻想を打ち壊すのに努めている。

 研究上の必要から「フランス・トランスヒューマニスト協会」(l’Association française transhumaniste) に参加している哲学者のガブリエル・ドルトゥにしてみると、「こうした発表がぞっとする恐怖感を与えるものだけに、実用化されているかなりの数の人工知能のことが目立たなくなっているし、普通のことのように思われている」。とりわけ、判断を補助するアルゴリズムは、人間の意思決定を合理的なものにすると考えられ、すでにアメリカの警察、司法機関、保険会社、それに人事部門で使われている。メディアには注目されないが、数学者キャシー・オニールはその著書『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』(Weapons of Math Destruction(8)の中で、社会的弱者にこのアルゴリズムを適用するとどういうことになるかを明らかにしている(9)。この種のプログラムは、たとえば貧しい地域に住んでいるというだけで何の罪も犯していない人々を、潜在的に危険な人物としてひとまとめに括ってしまう。これは深刻な問題であるが、しかし人類の終焉問題ほどには関心を呼ばない……。

 「私たちはみんな共犯者なのだ。研究者も同じで、トランスヒューマニズムのおかげで、人類の危機を扱った本や記事を出したり、職を得ることができるのだ」と、ドルトゥは明言する。2014年、その大部分が研究者で少なくとも300人の神経生物学者を含む800人を超える人々が、「人間頭脳プロジェクト」(Human Brain Project)という計画に反対する公開意見書[欧州委員会あて]に署名した。12億ユーロ(そのうち5億ユーロはヨーロッパからの出資)の規模で、2024年までにスーパーコンピューターを使って人間の脳を再現することを目指すという計画だ。多くの人にまじって当時、チューリッヒ大学の神経科学教授のリチャード・ハーンローザーは、「約束に実体がない(10)」ことを痛烈に批判していた。上部の運営組織に科学者が含まれていないこと、そして脳についての理解以上に、神経構造型の情報処理システム(脳機能をまねたもの)によりコンピューターがさらに高性能化するという予想に興味を持った企業の影響力が強いことがその批判の的だった。

 人類以後(posthumanité)のテクノロジー世界を拓いて行くことは、結果として政治をもまた回避することになる。すべてのことが、人工知能は政府や一般人の審議に任せるにはあまりにも重い問題を投げかけているように取り扱われている。たとえそれが裁判官であっても政党であっても、専門家の研究機関からなる特別な有識者グループの外には出してならない、ということだ。パネーゼが指摘するには、逆説的であるが「倫理的な検討を行うということは、問題を政治の世界から切り離してしまうという害を生む。グーグル、アマゾン、フェイスブック、アップル、マイクロソフトは議論を価値観の領域に閉じ込めたいという関心を共有している。テクノロジーがもたらす直接の影響であるとか、社会の格差問題、新たな権力主体の出現といったことの考察には向かわせたくないのだ」

 こうした政治から倫理へという動きに加えて、シンギュラリティに関する議論は第二の変化、すなわち科学的な合理性から神話領域への移行を見せている。ここでは、技術はもはや観察によって確かめられる予測に関する理論(たとえば気象学)の基礎ではなく、人間の生命の悲劇的で壮大な物語の土台となっているように見受けられる。「トランスヒューマニズムは信仰形態のひとつであり、科学よりも宗教に関係している」と、シェフィールド大学の物理学の教授であり、Against Transhumanism(「トランスヒューマニズムに反対する」)(11)と題する文献の著者であるリチャード・ジョーンズは断言する。「トランスヒューマニズムは人類の創世神話の助けを借り、それを重要な基本原理として再利用するのだ。つまり、私たちは、私たちを幸福にも不幸にもすることのできる私たちよりもすぐれた知能の力を借りて、豊穣の世界、さらに不死の世界に到達することができる……。もっと驚くべきことには、トランスヒューマニズムは、19世紀の終わりに起こった哲学運動であるロシア宇宙主義、特にロシア正教会の思想家であるニコライ・フョードロフのことを想起させる。フョードロフによれば、科学は聖書の約束がこの地上に起こることをやがて可能にする。彼は、テクノロジーが最終的に我々に不死をもたらすだろうと確信していたのだ」

救いの約束

 シンギュラリティの物語がこれほどうまく行っているのは、その話が神話の繰返しになっているからだ。「これは、とても古い黙示録に類する話であり、西洋では12世紀のヨアキミズム(12)にさかのぼる」と、リール・カトリック大学の研究員で歴史家のフランク・ダムールは説明する。新たなテクノロジーの発展は、文化上の制約によって少しずつ様相を異にする「救いの約束」をもたらす。ヒンドゥーイズムに特有の歴史の輪廻の概念では、人工知能の出現は一回限りの特殊な出来事とは予定されていない。西洋における黙示録のように、特異で根本的に特別な時点における不可逆的な転換を意味するものではないし、それはむしろ、ひとつの回帰であり、宇宙進化論上の太古の一時期が復活することなのだ。たとえば、人類の黄金時代である輝かしいサティヤ・ユガ(Satya Yuga)の時代がやがて再び出現するということになる(13)

 アメリカでは、トランスヒューマニズムの思想が、アメリカ・プロテスタンティズムのいくつかの宗教運動と共鳴している。「特に1960年代の“第四次大覚醒”[訳注7]と呼ばれる運動とは関係が深く、そこでは肉体的な成功、すなわち健康、強健、長命が神の選択の標しとされた」と、ダムールは解説する。したがって、19世紀の科学者の運動がサン・シモン主義のように集団を相手にしたものであったのに対し、トランスヒューマニズムにおいてはもはや社会ではなく、個人を救うことが問題なのだ。「個人に関する議論は一気に人類一般を語るものになり、社会は問題にならない」と、この歴史家は分析する。「救済はまず個人の肉体から行われる[訳注8]。世界の組織の中で決定的な役割を担うのはもはや国家ではなく、個人になり、彼らが企業家的な組織体を背景に活躍するのだ。自由主義がかつてこれほど強力な目的を持ったことはおそらくなかった」。そして、その反対勢力は自らが無力化しているのを感じ取っている。それはこの自由主義が彼らからその強力な推進力、すなわち「進歩の理念」を奪い取り、独占してしまったからなのだ。



  • (1) Lire Édouard Pflimlin, « Les Nations unies contre Terminator », Le Monde diplomatique, mars 2017.
  • (2) Nick Bostrom, Superintelligence : Paths, Dangers, Strategies, Oxfor University Press, 2014. 邦訳『スーパーインテリジェンス、超絶AIと人類の命運』、日本経済出版社、2017年。
  • (3) Lire Philippe Rivière, « Nous serons tous immortels... en 2100 », Le Monde diplomatique, décembre 2009.
  • (4) Francis Fukuyama, Our Posthuman Future : Consequences of the Biotechnology Revolution, Picador-Farrar, Straus and Giroux, New York, 2002. 邦訳『人間の終わり:バイオテクノロジーはなぜ危険か』、ダイヤモンド社、2002年。
  • (5) Vernor Vinge, « The coming technological singularity : How to survive in the post-human era » (PDF), université d’État de San Diego, département de sciences mathématiques, 1993.
  • (6) Cf. Fabien Benoit, « À Palo Alto, au royaume des radieux », Libération, Paris, 9 janvier 2017.
  • (7) Jean-Gabriel Ganascia, Le Mythe de la singularité. Faut-il craindre l’intelligence artificielle?, Seuil, coll. « Science ouverte »,Paris, 2017. 邦訳『そろそろ、人工頭脳の真実を話そう』、早川書房、2017年。なお、原題を直訳すると「シンギュラリティの神話」。Lire aussi Jérôme Lamy, « Intelligence artificielle ou collective? », Le Monde diplomatique, juin 2018.
  • (8) Cathy O’Neil, Weapons of Math Destruction : How Big Data Increases Inequality and Threatens Democracy, Crown, NewYork, 2016. 邦訳『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』、インターシフト、2018年。なお、原題の先頭部分を直訳すると「数学的な方法を使った破壊兵器」。
  • (9) Lire Frank Pasquale, « Mettre fin au trafic des données personnelles », Le Monde diplomatique, mai 2018.
  • (10) Lise Loumé, « Human Brain Project : faut-il continuer ce projet à 1,2 milliard d’euros? »,Sciences et Avenir, Paris, 9 juillet 2014.
  • (11) Richard Jones, Against Transhumanism. The Delusion of Technological Transcendence, Soft machines, 15 janvier 2016.
  • (12) イタリアの神秘主義者ヨアキム・ドゥ・フロール([フィオーレのヨアキムと呼ばれることもある]1130年~1202年)の名に由来する。
  • (13) Cf. Robert Geraci, « A tale of two futures : Techno-eschatology in the US and India », Social Compass, vol. 63, no 3, New York,septembre 2016.

  • 訳注1] 汎用(型)人工知能(Artificial General Intelligence<AGI>)は、様々な問題に対する解決能力を学習によって獲得する「人間のような人工知能」とされる。特定の決まった作業(自動運転、将棋・チェスなど)を遂行するための特化型人工知能と区別される。
  • 訳注2] 「超人間主義」などと訳される。日本トランスヒューマニスト協会によれば「トランスヒューマニズムは、科学技術を積極的に活用することで(人間の)生物学的限界を超越しようとする思想および運動、そして哲学」のこととされる。
  • 訳注3] 単に「特異点」、あるいはAI分野で特に「技術的特異点」と訳される。特異点は、もともと数学、あるいは物理学などで使われていた言葉で、一定の基準が、その点に至ると適用できなくなる点のことを指す。
  • 訳注4] 邦訳は、短編集『停滞空間』ハヤカワ文庫SF、1979年、に所収。
  • 訳注5] 邦訳は、創元SF文庫、2015年。
  • 訳注6] 邦訳は、短編集『アジャストメント、ディックハヤカワ短編傑作選』ハヤカワ文庫SF、2011年、に所収。
  • 訳注7] 歴史学上、1730年代から英米で周期的に繰り返された信仰のリバイバルの時期をそれぞれ大覚醒(第一次~第四次)と呼ぶことがあり、その4番目のもの(1960年代~1970年代)。
  • 訳注8] テクノロジーの発達により、義手・義足、人工授精など肉体の欠陥を救済することがトランスヒューマニズムの出発点になる、と捉えられているように思われる(参照、Reinformation.TV, ≪“la tentation transhumaniste”de Franck Damour≫), 25 mai 2015)。

(ル・モンド・ディプロマティーク 仏語版2018年8月号より)