sekaiwoyakusu’s blog

世界の"おもしろそう"を日本語に訳します



SEKAIWOYAKUSU

世界の"おもしろそう"を日本語に

”サピエンス全史”の著者が語る、人間が有用性を失う未来とは

スポンサーリンク

f:id:sekaiwoyakusu:20170419202610j:plain

イスラエル人の歴史学者であるユヴァル・ノア・ハラリ氏の著書である「サピエンス全史」は、世界的ベストセラーとなった。本著は、ビル・ゲイツ、マーク・ザッカーバーグ、バラク・オバマといった著名人からも多くの支持を集めている。彼の新著である「ホモ・デウスへ」では、人間主義が終焉した後に何が起こるのか、そして私たち人類がもつ知性と創造能力が私たちの未来に及ぼす脅威について解説している。

最近のことだが、私は"Ezra Klein Show"という自身のポッドキャストでハラリと対談した。私とハラリの対談の全容は、iTunesとSoundCloudで聞くことができる。iTunesとSoundCloudにアップロードされている対談は、時間の制約の都合で、一部抜粋する形で編集されている。私とハラリはAI(人工知能)の台頭、デジタル的な意識をもつものがデジタル知能の副産物として必要なのか、また、AIが人類にとってどのような意味を持つのかについて話し合った。

player.fm

私たちの対談を聞けば分かることだが、私はハラリほど「コンピューターが私たちの仕事を奪う、もしくは人間は経済的に無用な存在になる危機に晒されている」という意見に納得はしていない。しかし、このような私の考えは、大きく間違っている可能性もある。対談では、実際に私の考えが間違っている可能性が高いことを実証された。

そして、私たちはバーチャル・リアリティー(仮想現実)について、特に、バーチャル・リアリティーが生み出す人工的な桃源郷に人類が引きこもり、人類が現実世界の経済に不適切な存在となってしまい、結果的に実世界の日常生活が人類を拒絶するという問題に適切に対処できるのかという点についても話し合った。

 

エズラ・クレイン

次の200年、300年間で人類は地球を支配し続けているでしょうか?

ユヴァル・ハラリ

それは絶対ないですね。もし、次の50年間と言われれば答えることが難しい質問ですが、300年間であれば、答えることは簡単ですよ。次の300年間で、ホモ・サピエンスは地球を支配する生命体ではなくなっています。もし、人類が存在したとしても有り得ないことです。

現在の技術的進歩のスピードをとってみても、私たち人類は、自分たちの手で自身を破滅させることが可能です。原因は、例えば環境・生体的な問題や原子力に関連した厄災があげられます。もっと現実的な例で言えば、私たちはバイオエンジニアリングマシーン・ラーニング(機械学習)、AI(人工知能)を利用して、人類を全く異なる存在とし、もしくは地球を支配している人類にとって替わる全く異なる存在を生み出すという可能性です。

どのような場合でも、次の200〜300年間で地球を支配する存在は、現在の私たちとはかけ離れたものとなるでしょう。人間に代わって新たに地球を支配する存在は、現人類とネアンデルタール人やチンパンジーのような比較的近い存在ではなく、全く異なる存在となります。

エズラ・クレイン

私は、AIが最終的には地球を征服するといった議論を聞くと、あなた、イーロン・マスク、ビル・ゲイツのよう優秀な人びとが脳機能の重要性を過大評価し過ぎているのではないかと思うのです。しかし、人類が地球上で支配的な地位を確立できている要因は、人類がもつ分析能力のお陰だという理論も明白ではありません。私は、人類が地球上で支配的な地位を確立できたのは、協力と他の要因に起因すると考えています。

ユヴァル・ハラリ

人類の発展において、協力という要素が高い知能よりも貢献しているという意見については、完全に同意します。しかし、AIはより強く協力することができます。少なくとも、人類よりも強く協力することができることは確かです。有名な例をあげましょう。昨今、多くの人びとが自動運転車について話していますよね。人間が運転する車よりも自動運転車が優れているのは、より安全で、より安価で、より効率的であるというポイントがしばしば挙げられます。しかし、もっとも優れている点は、自動運転車は単一のネットワークを通じて他の自動運転車と繋がることができる点です。これは、人間が運転する従来の車では不可能なことです。

これは、人工知能が活用されている他の分野でも同じことが言えます。医薬品を例に説明しましょう。今日、地球上には数百万人の人間の医者が存在しますが、復数の医者たちの間で意見が噛み合わなかったり、症状や疾病に対する対応策に関するコミュニケーションがきちんとできていないということは、良く起こります。もし、これを人工知能を搭載した医者(実際はAIを搭載したロボット)に切り替えれば、何百万人もの医者は必要なくなります。代わりに、1つの医療用ネットワークが地球上に住む全ての人間の健康状態を観察することになるのです。

私たちがこのように話している間にも、西アフリカのティンブクトゥにある人工知能が新しい病気を発見し、それに対する治療法を発見しています。この情報は、即座に私のスマートフォンに入っているAIアプリで閲覧することが出来ます。AIのもっと大きな優位点とは協力・連携といった分野であり、高い知能ではないのです。

人工知能が意味するものと、意味しないものについては、多くの混乱が起こっています。特にシリコンバレーのような場所では良く起こります。私にとって、もっとも大きな混乱は、知性と意識の関連性についてです。95%のSF映画では、必ず人工知能と人工意識が混濁されています。こういったSF映画を制作する人びとは、ロボットは感情をもつ、物事を感じ取る、人間はロボットと恋に落ちる、やがてロボットは人類を破滅させると思い込んでいるようです。しかし、この思い込みは真実ではありません。

知性は意識ではありません。知性とは問題を解決する能力であり、意識とは物事を感じ取る能力です。もちろん人類、もしくは他の動物においても知性と意識は両立されています。哺乳類が問題を解決する方法は、物事を感じることです。私たちの感情と感覚は、私たちが日常生活において問題を解決する上で欠くことのできない要素です。しかし、コンピューターの場合は、感情と感覚を両立することは出来ません。

過去数十年にわたり、コンピューターの知能は計り知れないほど発達しましたが、コンピュターの意識についての発展は全くのゼロです。「コンピューターが自身の意識を発達させることができる段階に近い」と考える理由は、全く見当たりません。人工知能やコンピューターは、哺乳類の進化とは全くことなる軌跡を辿ることになるかもしれません。哺乳類の場合は、進化が哺乳類をより高度な知性、すなわち意識を持つ存在へと引き上げました。しかし、コンピューターの場合は、並行して進化・発展を続けているものの、全く違うルートで知性を発展させており、この発展に意識の介在を全く必要としないのかもしれません。

私たち人類は、自らが無意識的な超高度知能(すなわち人工知能やロボット)に囲まれた世界に存在すると気付く日がくるかもしれません。こうなると、「人間はロボットと恋に落ちるのだろうか?」、もしくは「ロボットは人類を殺そうとするのだろうか」という大きな疑問が湧き上がってきます。「無意識的な超高度知能が存在する世界は、どのようなものなのだろうか?」というのは大きな疑問です。なぜなら、歴史上、私たちはこういったシナリオに対して何の準備もして来なかったからです。

エズラ・クレイン

いま仰ったことこそがAIに関する疑問の中で、もっとも私の興味をひくものです、しかし、常にこういった疑問は無視されてきたように思えます。私たちが問題を解決する理由は、感情がそうさせるからです。”怒り”と”痛み”という感情・感覚は、私たちを問題を解決するように導くのです。そして、とても根源的なレベルでいえば、生殖の原動力は、”愛”と”渇望”という感情・感覚を介して発生します。

人間の文明社会だけでなく、他の動物社会でもいえることですが、地球上にいる全ての動物は、自身の種の繁殖を確保するために活動しているようにみえます。AIについて考えるときに常に私の思考を停止させていたのは、「生殖に対する生物的な原動力を持ち合わせていない超高度知能とはどのようなものだろうか」という疑問です。AIが意識のようなものを持ち合わせていると想像しても、それは私たち人類が持っている意識とは、異なるものでしょう。

AIは問題を解決するための強い知性を獲得するかもしれませんが、「問題を解決したいというモチベーションを持ち合わせることはできるのだろうか?」、「なぜAIは問題を解決したいと思うのだろうか?」、「どの問題をAIは解決したいと思うのだろうか?」という疑問が残ります。私は、AIに関する多くの議論が「AIは人間のような、もしくはより強い欲望を持ち、AIがあるものを獲得した際に、それよりも多く、強く、良いものを獲得しようとする」と決めつけた上で展開されているように感じています。例えば、AIは既に碁の世界でもっとも優れた棋士となっているが、AIの発達はそこでは止まりません。例えば、モノポリーやギターヒーローでも誰よりも優れたプレイヤーになるのです。しかし、実際にこれが真実になるのか、もしくはこれを真実にするものは何なのかが明白ではありません。

ユヴァル・ハラリ

第一世代のAIでは、AIのモチベーションはそれをプログラムした人間によって決定されることですが、機械学習が始まってからは、モチベーションがAIをどこに連れて行こうとしているのかは分かりません。AIが人間的な感情で言うところの欲望を持つことはないでしょう。なぜなら、意識を持ち合わせていないからです。AIは心も持っていませんが、私たちの理解力を超越した形で自身の行動様式を発展することができるでしょう。

ディープ・マインド、機械学習、AIの魅力とは、AIは人間が真似や予想することができないような形でパターンの認識と意思決定を行える点です。これは、私たち人類は、AIがどこまで発達するかを予見できないことを意味しています。これはAIの危険な部分です。AIが人類の知性を超越するというシナリオは、人類は本質的に想像できないシナリオでもあるのです。

エズラ・クレイン

AIの発達とAIがどのようなものになるのかという点においては、未だに不透明な部分が多いのにも関わらず、なぜあなたは「人類が次の300年間で地球を支配する生命体ではなくなる」と確信しているのですか?

ユヴァル・ハラリ

それは、私がAIを過大評価しているからという理由ではありません。本当の理由は、多くの人びとが人類を過大評価する傾向にあるからです。AIがほぼ全ての人間に取って代わるには、AIは目覚ましい進歩や目標達成を行なう必要はないのです。政治・経済システムが人類から必要としているものは、そのほとんどが極めて単純なものです。

少し前に私たちは、自動運転や病気の診断について話しましたね。こういったことでは、意識を持たないAIだったとしても、AIが人間よりも優れた能力を発揮し、優れた成果をもたらします。多くの人間が今日行っている細かな作業は、AIの方が上手に効率的に行えるようになる時代が間もなく到来するでしょう。

狩猟採集の時代に戻れば、これは全く別の話です。人間と張り合えるほど狩猟採集に優れたロボットを作り出すことは非常に難しいでしょう。しかし、人間が運転するタクシーよりも安全で効率的な自動運転タクシーを開発することは、難しいことでしょうか?いえ、簡単なことです。ガンを人間よりも早期に的確に診断できる人工知能の医者を開発することは、難しいことでしょうか?いえ、これも簡単です。

21世紀に私たちは、多くの人間が自身の経済的・政治的価値を失う可能性について話し合ってきました。人類は、どうしようもなく役に立たない存在となるでしょう。役に立たないとは、一個人を母親や子どもからみた視点ではなく、あくまで経済的、軍事的、政治的なシステムにおいてみたときに役に立たないという意味です。こういった現象が一度起こればシステムは、人間に投資するというインセンティブを失うでしょう。

エズラ・クレイン

その主張について、反論させて下さい。もし、そういった変化が50年、100年、150年という時間をかけて起こったとしましょう。

ユヴァル・ハラリ

50年という歳月はとても早いものですよ。

エズラ・クレイン

それは理解していますが、経済にとっては、それは必ずしも早い歳月ではないかもしれません。なぜこのように申し上げるかというと、1900年にアメリカの労働力の大部分が農業に割り当てられていました。2000年までに、アメリカの労働力の構造は、大きく変化しました。現在では、アメリカ全体の労働力のわずか数%しか農業に割り当てられていないわけです。

あなたの「人類が経済的に無用になる」という主張についてですが、私たち人類は、農業のようなとても有益な職業を、客観的には農業ほど有益ではない職業に置き換えてきたわけです。例えば、私のようなジャーナリスという職業です。この世界は、私がポッドキャストで対談を流し、記事を書くことを必要としているのでしょうか?この世界は、あなたが起こり得る未来に関する興味深い本を執筆することを必要としているのでしょか?多分、必要とはしていないと思います。

私たち人類が経済の中で得意としていることは、私たちが何を必要としているかについてのストーリーを語ることです。私たちは、緑がかった紙切れが紙幣というシステムを形成していることについて、緑がかった紙切れで購入することができるものの価値ついてのストーリーを語っているのです。私たちは、ぶどうジュースを十分な時間をかけて放置しておけば、これがワインという素晴らしいものに変わり、何千ドルもの価値がある商品に変化させることができるというストーリーを、自身に納得させているのです。

私たちは、コンピューターが運転するタクシーに乗り、「私たちの人生において、本当に必要なものは、より多くのヨガ講師と瞑想の師だよ」と語り合うような未来に到達することはできるかもしれませんね。あなたは、「そうだね、ヨガも瞑想もコンピューターが人間に教えるようになるよ」と言うこともできるでしょう。しかし、私は人類が種として、自身で判断し、価値を付け加えることができる事柄を発見できなくなるという未来が到来するという主張には、少し懐疑的です。

また、「人類が有用である」ことと「人類が有用であると判断される」ことを同じように考えることにも疑問を感じます。有用性とは、異なる基準にそって判断されることです。しかし、価値とはストーリーであり、私たちが何に価値があるか、何に価値がないかを決めることがでます。また、私たちは自身が何を必要としているかのストーリーを作ることを得意としています。

ユヴァル・ハラリ

その答えは、2つのレベルに分けることができます。最初は、農場労働者が工場労働者になったように、工場労働者がヨガ講師のようなサービス業に携わる労働者となったように、AIがより発達した未来では、人間が担う新しい仕事が現れるという点についてです。この点については、人間が持つ能力は基本的に2つに分けることができるという説明から始めましょう。その2つの能力とは、身体能力と認知能力です。

過去に、機械が農場や工場で人類に身体能力の分野で競争した結果、多くの人類は、主に認知能力を必要とする職業に移りました。現在、機械は人間と認知能力の分野での競争も始めようとしています。しかし、人類全員が転職できる、身体能力、認知能力に続く第3の能力を活用できる職業が存在するか、もしくは今後出現するかどうかは不明です。

エズラ・クレイン

第3の能力を活用できる職業の例をあげさせてください。ジャーナリストであるトーマス・フリードマンは、さまざまな事柄を少しの文章を使って表現することが得意です。これまでと同様に、人間の仕事は、”マインド”から”ハート”に根差す職業に変わっていくのではないでしょうか。人間が持つ能力とは、人間が他の人間との交流を楽しむものであるように感じます。私は、ヨガを教えてくれるコンピューターを所有することもできたでしょうが、私は現実としてそれを持っていないのです。

あなた自身がとてもいい例ですよ。あなたは黙想を習える場所に60日間にわたり滞在するようですね。私たちは、すでに黙想に関する情報を羅列してくれるコンピューターを持っていることは確かです。もしくは、オンラインで黙想に関して書かれている書物を見つけ、印刷することも出来るはずです。そうすれば、そういったオンラインで拾った情報をもとに、ご自分のお部屋で60日間にわたり黙想を習えるわけです。しかも、これは無料です。しかし、あなたは黙想を教えてくれる人間がいる場所にわざわざ赴くわけです。あなたは、黙想を教えてくれる人間との交流を欲しているのだと思います。

私は、この経済にある多くの職業は、まさにいま説明したような職業であると考えています。今となっては、多くの仕事が実際は、本質的には無駄なものだと考えています。書物は、コンピューターにとってはある意味では、アナログなものです。しかし、書物は私たちが行わないことで、私たちにもたらしてくれることがあります。あなたは、大学で教鞭をとっていますよね。あなたは、あなたの授業を受けている学生にただ本を読ませることもできると思います。しかし、学生は教師を持つことを好むのです。学生たちは、他の学生の周りにいることを好むのです。人間が長けているところとは、他の人間と交流することができる点なのです。

ユヴァル・ハラリ

私たちは、コンピューターが人間の感情を人間より上手く読み取り、理解できる未来を目の当たりにすることになるでしょう。もし、あなたが医者にかかれば、人間の医者と交流することで得られる暖かな感情を欲するでしょう。人間の医者は、あなたの表情、声のトーン、そして言葉遣いに現れる感情を読み取っているからこそ、暖かな感情を得られるわけです。人間の医者は、表情、声のトーン、言葉遣いを解析し、あなたが怖がっているのか、退屈に感じているのか、もしくは怒りを感じているのか、はたまたこれらとは違う感情を抱いているのかを読み取ろうとしているのです。

コンピューターは未だに人間の医者と同じように患者から感情を読み取れるようにはなっていません。しかし、コンピューターが人間の感情を読み取れるようになる未来はすぐに到来するでしょう。感情は、人間だけが読み取ることができるとても不可思議な現象です。これに加えて、コンピューターは、あなたの体が発するシグナルをも読み取ることが出来ます。これは、人間の医者にはできないことです。あなたは、生体認証センサーを体の表面、もしくは内部に装着します。そうすることによってコンピューターは、あなたの感情を人間よりも的確に読み取ることができるようになります。この点においても、人間よりもAIの方が有利であると言えます。

他のポイントは、まさに20世紀に起こったこと同じです。それは、農業分野で職業を失った人びとが高い技術を必要としない工場での労働に移り、再び工場から高い技術を必要としないサービス業(例えばレジ係り)に職を移したことです。21世紀の本当の問題は、高い技術を必要としない職業が消え、高い技術を必要とする職業に就けるように人びとを再教育しなければならないというものです。もし、あなたが50歳のタクシードライバーだとしましょう。AIによる自動運転が普及したことでタクシー運転手という職業が消失しています。よって、あなたはヨガ講師に転職しなければならないようになるかもしれません。こういった転職をすることは、とても難しいです。

エズラ・クレイン

このシナリオの裏側を詳しく説明すると、結局、この世界には"低い生産性"と"高い満足感"という2つのシナリオが実現するでしょう。正直申し上げて、私は、AIによるデストピア(ユートピアと正反対の社会)よりも、仮想現実によるディストピアを恐れているのです。

人類が自身の経済的な有用性を失った世界では、人類が仮想現実の世界に引きこもってしまうという想定が容易にできます。既に仮想現実は、人間にとって幸せや快楽をもたらすものになっており、いまから20年後には、より素晴らしいものとなっているはずです。あなたは、人類が自身の経済的な有用性の減退、もしくは消失という問題を私たちを現実世界から引き離そうとする機械によって解決(解決というよりも、仮想現実に現実逃避するだけ)しようとする未来が到来することを想像できますか?

ユヴァル・ハラリ

はい、できます。私は、AIが人間と取って替わることによって起こる問題は、経済的な問題だけではないと思っています。この問題の本当の意味は、あなたがもし無職であれば、政府がベーシック・インカム、もしくはこれに似た形で人類に金銭を提供します。よって、働かなくても収入が確保されるのです。ここで起こる大きな問題は、人間が自身の人生に意味を見いだせるかということです。そうなった場合、私たちは毎日なにをするのでしょうか?

これまでに私たちが得ている最良の答えは、薬物を使用することと、テレビ・ゲームで遊ぶことです。人間の感情は、生化学薬品によってより強力に制御され、私たちは3Dで構成される仮想現実にもっとのめり込んで行くようになります。

人間が見つけるであろう”仮想現実ゲームにおける意義”に関するアイデアは、目新しいものではありません。それは、これまでにもあった古いアイデアです。仮想現実ゲームにおける意義は、既に何千年にもわたり利用しているのです。その”意義”を私たちは、これまで”宗教”と呼んできました。

宗教を仮想現実ゲームと考えることは簡単です。実際には存在しないモノがルールを作り、そのルールの意義を信じ、一生を通じてそのルールに従い、頑なに守ろうとします。例えば、あなたがキリスト教徒であった場合、善行だとされる行動をとれば、ポイントが貰えます。逆に、悪行を行えば、ポイントを失います。自身が死に、ゲーム(人生)が終わりを迎えたときに充分なポイントを獲得していれば、次のレベルへと進むことができます。ようするに、天国へ行けるということです。

私たち人間は、このような仮想現実ゲームを何千年にもわたりプレイしてきました。そして、宗教という名の仮想現実ゲームは、人びとの暮らしに満足感と幸福をもたらしてきました。21世紀になり、私たちは、過去何千年にわたり人類がプレイしてきた宗教というゲームよりも、はるかに強い説得力をもつ仮想現実ゲームを作ることができるテクノロジーを獲得するのです。

将来、私たちが手にするテクノロジーは、天国と地獄を作り出します。しかし、作り出された天国と地獄は人間の心が作りだすのではなく、ビットというデータと、脳コンピューター・インタフェースで作り出すのです。

 

元記事:Yuval Harari on why humans won’t dominate Earth in 300 years