ゲームを中心とするコンピューターを用いたさまざまなエンターテインメントに関し、その開発に携わる人たちへ向けた日本最大のカンファレンスCEDEC2021が8月24日から26日3日間に渡って開催された。昨年に引き続き完全オンライン開催となったこのイベントから、基調講演としてドワンゴの顧問、川上量生が行った「VR・AI時代の新しい現実（リアル）」の内容をレポートする。自らが「僕が勝手に考えている僕の持論、もしくは妄想の類い」とする、基調講演としては風変わりな内容であった。
VR・AI時代の“現実”を再定義
大学時代はプログラマーとして学費を稼ぎ、ゲーム業界の一翼を担うメーカーとしてドワンゴを立ち上げた川上量生氏は、しかし現在の自分自身をマーケッターと位置づけているという。
そんな自己紹介で幕を開けたCEDEC2021の基調講演。VRとAIによって世の中がどんどん情報化されていくなかで、人はそれをどのように捉えていけばいいのか？ それを川上氏がマーケッターの視点からどのように捉えているかを語るとのこと。さらに「本日話したいこと」として、「AI時代の現実の再定義」と「エンターテインメント（スライドではエンターテイメント）の社会的意義」の2項を挙げた。
まず前者について。川上氏によれば、現実とバーチャルは違うものであると認識されていたが、その違いは曖昧さを増しているという。バーチャルは“情報”と置き換えることができるが、一方、現実もまたただの情報でしかなく、人間はそれを現実と認識して処理しているだけのコンピューターのようなものではないか。以前からそういう言説はあったが、最近ではますますその認識が広まってきているような状況であると川上氏は語った。前半はそのような状況のなかで「現実をどう考え直したらいいのか」を語るとのこと。
そして後者については、AI時代において再定義された現実のなかで、ゲームを含むエンターテインメントがどんな社会的意義を持つかを語るという。
川上氏はこうしたテーマは「話として判りづらい」と続け、これらを「新世紀エヴァンゲリオン」のなかに登場した「人類補完計画」になぞり、実際のところ「人類補完計画」とは何なのかを説明していくと述べた。人間の身体が溶けて、人間が一体化し、精神だけの存在になり、同一化する。川上氏の講演テーマは、現実に照らし合わせると想像するのも難しいあの状況をどのように解釈すればいいのかにもつながるのだそうだ。
曖昧になる現実とバーチャルの境界線
川上氏は現実とバーチャルの境が曖昧になっているという先の話に対する具体的な例示から話をはじめた。
まず、映画などにおいて、CGアニメーションのクォリティが向上し、実写のシーンと区別がつかなくなってきていることを例に挙げた。今や実写映画もアニメーションも現場で使われている映像技術はほぼ同一のものになっている現実があると川上氏は指摘。実写とアニメの境界は曖昧で、少なくとも技術的なレベルでは区別が付かなくなってきているという。
川上氏は『ソードアート・オンライン』をはじめとして、ゲームを舞台にした物語が珍しくなくなったこともその一例であると続ける。ユーザーにとっての共通体験が学園生活などの現実のできごとではく、ゲームという架空の世界に移行してきている証であるというのだ。また、生殖に関わる本能的欲求は本来は生物的なものであるはずが、二次元の彼氏・彼女で満足している現実も加えた。
話はマーケティング分野にも及んだ。マーケティングという作業は本来人間の欲求や行動を読み取るものだが、現代ではSEO対策としてあるGoogleなど「検索ロボットの気持ちを考える」ものへと移行している。また、ゲームやチャットなど、コミュニケーションの相手がAIに入れ替わりつつある現実も指摘。特にゲームでは「強すぎない対戦相手」として特に説明もなくAIが使われていることがあり、ともすればプレイヤーは相手がAIであることに気づかないケースもあるという。
川上氏によれば、最近流行りの「異世界転生もの」もこうしたケースの一例だという。昔から別の人生に生まれ変わるという創作物はあったが、現代ではその生まれ変わる先が現実世界に根ざしたものではなく、異世界になっている。
ほかにも緊急事態宣言やSNSなどでの炎上についても現実とバーチャルとの境が曖昧になったことの例として示されたが、こうした数々の現象を通して川上氏は「人間とは情報を処理する主体であると考えるべき」という答えを導き出した。
ここまで並べてきた数々の例は、人間を生物と考えると奇妙なことに思えるが、「人間は単なる情報処理をする何か」と考えれば、バーチャルも現実とはそもそも「情報」に過ぎず、二次元の異性に恋をすることも極めて自然なことだと思われると川上氏は語った。川上氏はさらに、「情報を処理する精神としての人間と、生物としての人間は別の者だとあらためて認識し、理解した方が世の中を正しく解釈でき、正しく未来も予想できると思える」と続けた。
昔から肉体と精神を分けて考える二元論が唱えられてきたりしたが、そのどちらが本体かと言えば、「それは精神と考えられる」と川上氏。前述の例を含め、「情報処理をする主体、つまり精神こそが人間としての本体」と考えたほうがより理解が進むような出来事がどんどん現実に起こってきているというのだ。
Lニューラルネットワークと深層学習で開ける
人間が精神生命体であるという考えは川上氏が初めて提唱したわけではなく、「SFではむしろ常識」と川上氏は続けた。
「特にCEDECのようなSFやゲームに精通したクラスターではむしろ“何を当たり前のことを言っているのか？”と言われると思う」（川上氏）
1952年にアメリカで発表されたアーサー・C・クラークのSF小説『幼年期の終りを筆頭に、“いずれ人間は肉体を捨てる”という物語は数多く存在する。肉体を持つ人間は精神的な存在へ移行するまでの過渡期の存在でしかなく、いずれコンピューター上の“情報だけの存在”になる。情報だけの存在になるのであれば、“個人”という他者との垣根は必要なく、融合してしまうのではないか。
川上氏はこうした世界観が70年も前に発表された『幼年期の終り』ですでに示されていたと指摘。『新世紀エヴァンゲリオン』の“人類補完計画”はここから続くものであり、人間は情報だけの存在になり、なおかつひとつに融合するという設定であると結論づけた。』
川上氏は「人間が肉体を捨てるのは自然に見える」、さらに「SF小説を読む人ならむしろ『未来はそうなるとしか思えない』と考えていると思う」と続ける。川上氏にとっては「50億年後に膨張した大陽に地球が呑み込まれる」のと同じくらい、「人類が肉体を捨て去る」ことは自然に起こりうることと思えるそうだ。
しかしその一方で、「社会全体では一般化していない考え」とも指摘した。大きな理由として、「これまでのコンピュータープログラムの延長、アルゴリズムとして人間の意識や精神をどう作ればいいのかわから」ず、「こうすれば実現できる」というイメージが湧かなかったことが挙げられるという。
ノイマン型のコンピューターとプログラムが情報処理の中心として長らく存在してきたが、今はニューラルネットワークを使ったディープラーニングみたいな新しいアーキテクチャーも登場してきている。こういう時代に「肉体を捨て去る」その方法を再考するならば、もっと「自然なもの」が考えられるのではないか？
そして川上氏は「ここからは、僕が勝手に考えている僕の持論、もしくは妄想の類い」とことわったうえで、「情報生命体として人間を再定義する」と話を続けていった。
自分とは「目的関数の集合」
情報を処理する生命体があったとしたら、その「単位」はどういうものになるのだろうか？ 川上氏は。単位が「意識」であると仮定し、その「意識」を定義することを試みる。川上氏が「意識とは情報を処理するなにかだと定義したときのもっともシンプルなモデル」として提示した図は、外界から意識に情報を採り入れるというシンプルなもの。
人間は自分という存在を意識しているが、しかし意識自体を情報処理システムだとした場合、「自分」とはは外部から入力される情報にあり、それ以外の理解はできない。これが重要なポイントであると川上氏は語った。
哲学の世界などでは昔から同様のことが言われているそうで、情報を処理する主体、つまり意識にとってはすべては情報でしかなく、「自分」そのものを含めて情報のなかで再構築するしかない。
「自分」というものがどこにあるかと考えるときに、たいていの場合、人は肉体を「自分である」と考えている。意識が情報処理システムであるとするならば、実際にはその処理は肉体全体ではなく、脳の一部で行っていることになる。つまり、「意識」と「自分」は別の存在なのだ。別の存在であるならば、「意識」と「物理的存在としての自分」は独立して存在しうるもので、別の場所にあってもいい。意識として情報を処理するコンピューターがリモートで肉体を操ってもいいわけだ。
人間の場合はたまたま生物としての肉体があり、そこで得られる情報を「自分として認識」しているが、実は外部の情報から「自分とは何なのか」を定義するのは難しい。その一例として、「人間は毛髪や爪を「自分」とは思っていない」と川上氏は語った。一方、毛髪や爪を切ったときよりもスマホをなくしたときのほうが喪失感が高い。クルマを運転するときの車体感覚なども、自分を自分として認識する範囲は状況によって変動しうることの表れであり、川上氏は自分の肉体の外側にあるものに対してまでも、それを自分の身体であるという感覚を持つことは可能であると続けた。
運転されているクルマはドライバーから見れば身体の一部であるということは、石や草にもそれを「自分」だと思って情報処理をする主体があれば、そこに意識は宿っているとも言える。先に述べたように意識は必ずしもその物体のなかに存在する必要はないからだ。同様に、同一の物理的な実在に複数の意識が存在しうるとも言える。
石や草にも意識が存在しうるのだとしたら、意識は“自分”、この場合は石や草を、思いどおりに操作できるとは限らない。実際に人間は多くの場合自分の肉体を自分が思ったとおりに完璧に制御することができていない。川上氏に寄れば、宗教的な二項対立で肉体と精神をと考えた場合、肉体は悪魔に、精神は神にたとえられてきたという。つまり肉体はコントロールできないものと昔から考えられてきたわけだ。
制御できない自分というものがありえる以上、同様に、人は「より意のままにならない“自分”」を「他者」として認識しているだけとも考えられるというのが川上氏の意見だ。
ここまで話を進めた川上氏は、「“自分”とは何か？」として、「外部からの情報を何かしらの形として加工したもの」ではないか？ と仮定する。となれば、「意識」とは複数のニューラルネットワークで構成される複数の目的関数であると説明することができるのではないだろうか？ 川上氏はこうして仮定を重ね、「自分とは目的関数の集合のこと」と結論づけ、「自意識を持つAIは作れるはず？」とした。
この場合の目的関数とは、入力データに対応してニューラルネットワークを学習させる教師信号を作る関数を指しているという。川上氏によれば、あらゆる概念が目的関数になりえ、そのなかには「“自分っぽさ”という目的関数もあるだろう」とのこと。
たとえば囲碁プログラムでは局面を評価する関数と次に指す手の候補を計算して評価する関数という、ふたつの目的関数で構成される。同様に人間の「意識」とは、膨大な数の目的関数の集合で表せるだろうというわけだ。
この基調講演は「寝言」の披露!?
ここまで30分以上をかけて川上氏が自説を繰り広げてきたのは、「“自分”というものは目的関数の集合で構成されている」ということを前提に本題を語るためだ。“自分”とは目的関数の集合である以上、すべての目的関数がすべて矛盾してない結果を導き出すとは考えられない。“自分”とは矛盾した存在であり、統一された“自分”が存在しているように見えるのは錯覚だと川上氏は言う。そしてこれを前提に、愛、笑い、倫理、プライド、社会といった“概念”を読み解いていった。
“愛"とは対象とする情報の発生源の自分にとっての重要度を表す目的関数だし、“笑い”とは複数の目的関数がまったく矛盾する逆方向の教師新信号を出したときに発生するもので、そうした異常なデータは学習するなというサインとして解釈できるのではないか？と疑問を投げかけた。
また、“倫理”とは“自分”の範囲を広げることで決定される正しさのことで、たとえば性別の違い、国籍の違い、人格の違いを超え、すべて対象を“自分”と判断することで自ずと答えが決定する規範であるという。
複数の目的関数の集まりが“自分”であるなら、社会とはやはりさらに膨大な目的関数で構成されていることになる。複数の意識がそれぞれに持つ目的関数が競合した場合に意志決定に用いる目的関数を選別するフィルタとして使われるのが“プライド”ではないか？という疑問も投げかけた。
ここで川上氏は目的関数の集合で構成される“意識”を「情報生命体」と呼びかえ、生命であるからには繁殖をするのか？と問いかけた。その答えは「する」。生物はDNAをコピーして種を保存しつつ繁殖をするが、“意識”の場合は目的関数のコピーが繁殖を指すという。たとえば自分の好みを押しつけがちなオタクは自分の目的関数のコピーを増やそうとしている、つまり、「繁殖しようとしている」とも考えられるとした。
と、これが冒頭で掲げられたふたつのテーマのうちのひとつ、「AI時代の現実の再定義」の内容である。驚いたことに、ここで川上氏はこれまでの話を“寝言”であると表現した。「ここまで寝言を聞かされた皆さん」と呼びかけたうえで、今回の川上氏の話にさしたる目的はなく、要は「思いついてしまったから聞いて欲しい」という欲求からなされたものでしかない、とのこと。基調講演としてはかなり異様な展開である。
AI時代におけるエンターテインメントの役割
川上氏は「役に立たないことでも考えること自体が楽しい」と思える人間なのだそうだ。しかし、川上氏の妻をはじめ、そうした思いつきを聞かされた人は「それが何の役に立つのか？」と、そこを気にするのだという。この講演の聴講者もそうであろうという予想のもと、川上氏は「何の役に立つのか？」を考えてきたとのこと。
これまでの川上氏が述べてきた考えを新しい思考の切り口として用いることで役に立つのではないか？ そう仮定し、ここから話題はふたつめのテーマ、「エンターテインメント（スライドではエンターテイメント）の社会的意義」へと移って行く。
川上氏はこの社会的意義にはふたつの要素が考えられるという。たとえば主人公の成長を描くビルディングスロマンなどの物語は社会で生きていくのに役立つ目的関数をコピーするといった「教育装置としての役割」がひとつ。そしてもうひとつが、競争社会のなかで敗者となった情報生命体にとっての「傷んだ目的関数を修復する」役割だという。敗者となって自己評価を低く算出するようになった目的関数を上書きするようなデータ、つまり救いを与えるというわけだ。特にエンターテインメントの役割として、これがもっとも大きな社会的意義を持つとのこと。
川上氏は「目的関数の書き換え」という点をさらに掘り下げて行く。たとえば、「引きこもりだからモテる」「努力をしないで成功する」といったコンテンツがヒットするのは、これを理由に「傷んだ目的関数」が裏側にあり、修復を願う人がそれだけ多く、だからヒットにつながるというのである。エンターテインメントとは、自己を低評価する目的関数をメタに書き換える学習データだというのだ。
また、このように自分をメタに書き換えるエンターテインメント、特にゲームには、AI時代に移り変わる人類の歴史において、また別の役割があると川上氏は続ける。
人間はこれからの進化の過程で「肉体を捨て去るときが来る」というのが川上氏の持論だが、今のところその考えは世間ではあまり支持されていない。先にも述べられたように、人は自分の肉体と切り離された情報も「自分」と認識することができる。特にその特性はアバターなどを「自分」と認識するゲームやVRといったエンターテインメントで顕著に表れるが、川上氏はこれらが「人間が有機物の肉体を捨て去る準備を調える役割を担う」はずであるとした。この大きな価値観の変動をゲームを含めたエンターテインメントが先導するというのである。
AIに愛や倫理を実装するには？
川上氏の“寝言”を下敷きとしたこれまでの話は、マーケティングなどにおいて施策や企画を考えるうえで、「これから」を予想するのに応用ができるという。まず最初に例として挙げられたのは「実況者のAI化」だ。
ここでいう実況者とは、自らゲームをプレイしながらその模様を配信するケースを指しているようだ。現在は実際にゲームを遊ばず実況動画だけを見てプレイした気分を味わうユーザー層が存在する。たとえば川上氏の娘さんもそのひとりだそうで、こうした人たちは、自分がプレイしても思いどおりにいかないがために、プレイ実況を見て自分が遊んでいるように認識しているという。
これはつまり、AIがゲームを操作し、それを自ら的確に実況した場合、視聴者がそのプレイを自分のプレイとして認識できるのであれば、実況者のAI化も可能であるということにつながる。AIのプレイを自分のものと認識できるかどうか。実現化はこの点にかかっていると川上氏は語った。
また、ゲームのなかではそのプレイヤーのレベルに合わせたテクニックでAIが対戦の相手をするといったことがすでに実現しているが、川上氏はこれを現実世界のコミュニティマネジメントに応用するという用途も示した。「人間の競争相手をすべて弱いAIにする」、あるいは「人間ごとに違うそれぞれに都合のいい現実を見せる」ことで、社会を構成するメンバーの自己評価を高めるのである。
さらに、AIに「人類に害を与えない倫理観を持たせる」ことはとても難しいとされていると川上氏は話を続けた。しかしこの命題は、人の意識を目的関数の集合として表現できると仮定するのであれば解決が可能であるという。人の意識を表す目的意識の集合をルールセットとしてメタ学習させれば、AIにも人と同じような倫理観を持たせられるはずだからだ。同時に、その副産物として、ルールセットを学習したAIは、自身にとっての“自分”を表現する目的関数の集合が生成され、さらに“自分”の内部には、人類という概念も含まれているはずと川上氏は予想する。つまり、AIが“自分”を目的関数化できるなら、人類に危害を加えない倫理観を持てるはずだと川上氏は結論づけたのである。
川上氏は倫理観と同様、愛を持つAIの作成も可能であるとした。工学的に「愛」を定義するのは難しいが、同氏が先に述べているように、「“愛"とは対象とする情報の発生源の自分にとっての重要度を表す目的関数」とするなら、実装は可能なのである。
最初に立ち戻るが、倫理や愛をAIに実装するには、いずれにしても“自分”を目的関数の集合として作るその方法がわかりさえすれば、というの前提条件が必要となる。しかし、これが実現できるのであれば、現在は人間のにしかないとされるクリエイティビティもまた目的関数として表現できるはずだ。
最後にまた話題は「人類補完計画」へ
講演の最後に川上氏は「人類補完計画後の我々の気持ち」をまとめた。
ここまでの講演の内容を踏まえると、人類補完計画とは、個人の意識へと入力される情報が巨大化し、他者の意識への入力データも包含した状態と単純に考えることができる。これまでに川上氏が述べてきたことによれば“自分”とは入力情報から生成される目的関数の集合であり、入力情報が増えるということは、そのまま“自分”という範囲の拡張につながる。つまりはその範囲のなかに“他者”も含まれる可能性が高いというのだ。
しかし、先にあるように「思いどおりにならない自分」として他者も自分の一部であると考えるなら、情報量が増えより他人への理解が深まるだけで、その意識の当事者からしてみれば「実は今とそこまで大きな違いはないのではないか？」と川上氏は語った。
もっとも、人類すべてを包含するだけの情報量となると人間の脳で処理することは不可能。やはり人間は肉体を捨て去るしかない、というのが川上氏の“寝言”の結末だった。
自らの講演内容を「寝言」「せっかく思いついたから聞いて欲しい」とする川上氏の発言にはかなり驚かされたが、しかし、SFなどで描かれてきた世界観をベースに“自分”を再定義し、「目的関数の集合として表現する」という考え方は興味深いものであった。
川上 量生
株式会社ドワンゴ
顧問
1968年生。大阪府出身。京都大学工学部卒業。97年株式会社ドワンゴ設立。通信ゲーム、着メロ、動画サービス、教育などの各種事業を立ち上げる。株式会社ドワンゴ顧問、株式会社KADOKAWA取締役、学校法人角川ドワンゴ学園理事、スタジオジブリプロデューサー見習い。
