受け入れろ。お前はお前だ。
今ここにいるたった一人のお前しかいない。
他の何者かになれるわけがない。
ブランド:シルキーズプラスDOLCE
シナリオ:範乃秋晴
公式サイト:景の海のアペイリア
なんか最近妙にSF作品に触れる機会が多いんですけど、やっぱりAIを主題にしたSF作品は最近ならではですよねぇ、とか。
一番直近の作品なら”三体”がオススメだったり。異文明とのファーストコンタクト…。まぁSFならではのテーマであり、これは問われるべき問題なのかなぁ、とも思います。
というか、シルキーズプラスは”ななリン”からやってるんですけど(なんなら立ち上げ当初から知ってる)いつの間にこんな系列が増えたんですか…?そもそも、系列を増やすことに何の意味があるのかという疑問もあるんですけど、そこらへんは経営的判断なんですかねぇ。評価が低い作品を出した次の作品は売れにくい、みたいな。
まぁそこらへんを含めてシルプラは比較的安心できるメーカーですし、企画/シナリオの範乃秋晴は僕も”あの晴れわたる空より高く 批評”で書いた通りGoodシナリオライターなので余計な不安はなかったのですが、十分に期待を上回ってくれましたね。
科学ネタをちゃんと描けるライターってとても珍しいので、皆さんも買うといいですよ。
そんな景の海のアペイリア感想。今回は自己と、そして小話として僕のAI論を少しだけ。
<わたし>とは何か。自我とは何か。意識とは何か。
そんな哲学上の論争が、AIの台頭によって現実上の問題になっているというのは少し面白いですね。僕も大手を振ってこの種の話ができるというものです。
以下ネタバレ注意
問われる<わたし> 問う<わたし>
俺たちは自動的だ。
この感情さえ 、思い通りにはならない。
<わたし>とは何か、それは現代において答えが出せないままでいる問いの一つだ。
思考する<わたし>。主体である<わたし>。意思を持つ<わたし>。
この<わたし>を巡る問題の中で、最も重要視されるのは意識の存在だ。
果たして意識は観測できるのか。化学反応でしかない脳の中でどうして意識は生まれるのか。そもそも意識を確認するにはどうしたらよいのか。*1
人は意識を持ち、すべてを決めて行動していると思われている。
しかし、それは間違いと言わざるを得ない。確かに、人は意識を持つかもしれない。けれど、だからと言ってそれはすべてを決めているわけではないのだ。
例えばあなたが歩くとき、足と足の角度や歩幅というのは意識すれば変えられるが、意識しなければほとんど一定だろう。無意識内の行動というのは、自分の手が届きそうで届かない部分にある。当たり前だが、私たちは意識を持つ人間であると同時に、生きている動物なのだ。無意識、情動、あるいはリリーシングメカニズムと言った意識だけではどうしようもない部分が確かにある。
誤解しないでいただきたいが、僕は意識というものが人に無い、と言っているのではない。
意識というモノは存在するだろう。けれど意識がどうにかできる部分というのは私たちが思っているよりもずっと狭いというだけの話なのだ。だから私たちは忘れ物をするし、変えようと思っていた癖を直すことだって難しい。
感情だったり、意思だったり、衝動だったり、色んな意識の元を遡っていけば、きっと俺達にはどうしようもないことに辿り着く
三羽はクローンだから、より強く義母さんの愛情を求めるのかもしれない
だけど、クローンじゃないもしもなんてのはありえない
俺たちの好みも、性格も、感情も、意識も、元を正せば色んな偶然の積み重ねだ
今は意思を持って自覚的に行動しているつもりでも、それはきっと偶然の産物に過ぎない
ひどく自動的だ
―——零一
意識は私たちが思っているほど多くのことをできなくて、けれど確かに私を私たらしめるものの一つだ。
意識を持つものとして生まれた時点で、<わたし>は私であり他の何者でもない、何者にもなれない。<わたし>は他の<わたし>には永遠になれないのだ。
だから、他者に成り代わろうとしたスワンプマン達は、その願いが悉く叶わない。
私は私になれなかった、哀れで愚かな模造品だ
”スワンプマンは生まれてくるべきじゃない”
”俺なら潔く消える。彼女たちを守るために”
”大切なものを、守るために”
ああ……本当に、ずいぶんと都合のいいことを言ったものだ
私は、彼になりたかった。
だが、彼になるということは、そういうことだった
―——シンカー
生まれながらにして<わたし>が他者であるスワンプマンには、ゆえに悲劇しか待ち受けていない。意識ではどうにもならない、心のもっと奥のほうの誓い。だから変えられないし曲げられない。そしてそんな悲劇しかないのなら彼らは「生まれてくるべきじゃなかった」と零一は言うのだ。*2
意識は私たちが思っているほど多くのことをできない。しなければいけないことは出来ないし、時に不合理な選択をしてしまうことだってある。
一方で、意識がどうしようもない感情や思いというのは、まさしく人間らしいものだろう。意識が<わたし>を私たらしめるものなら、意識外のものは人間を人間たらしめるものだ。
だから、殺すべき人を殺せなかった三羽も、聞くべき命令を聞けなかったアペイリアもどこまでも人間的だ。
ネガティブ
褒めてください、オーナー
アペイリアは恋をしました
―——アペイリア
物語のラスト。AIとクローンである彼らは戸籍を手に入れ現実世界で生きていく。
意識と感情を持った彼らに、その出自を問うのはナンセンスだろう。その二つを持った存在を人間以外の何というのだろうか?
ゆえにこれは、プログラムでしかなかった彼らが、意識と感情をもって<わたし>に成った物語なのだ。
ああ、いつかどこかで、こんなことがあった。
たわいもない話をしながら、5人でここを歩いていた。
見つめれば消える0と1の波のように、嘘であふれた優しい世界を。
小話:AI論 & 所感
要するに、有用性という価値は普遍的なものではなく、波打ち際の砂地に描いた落書きが波に洗われるように、やがては消え去る運命にあるのです。
AIやロボットの発達は、真に価値あるものを明らかにしてくれます。もし、人間に究極的に価値があるとするならば、人間の生それ自体に価値があるという他ありません。
―——井上智洋 『人工知能と経済の未来-2030年雇用大崩壊-』
というわけで少し小話。
今巷で言われているAI脅威論というのは、少なからずSF界隈におけるファーストコンタクト*3の問題をはらんでいると思っています。
技術的特異点(シンギュラリティ)は、遂に人間の限界を超えるところまで来ました。今までは作業面で超えていたのですが、最終的には思考の面で超えてしまうのでは、というヤツですね。そういう意味で言えば、脅威論というのもわからなくはないですし、まぁ警戒するのに越したことはないよなぁ、とも思います。
一方で、AIは人間をあらゆる面で凌駕する、というのは論として行き過ぎだと思います。人間は思考する生き物ではありますが、同時にこの世に肉体を持つ動物でもあるはずなんです。デジタル世界で作成した人間と、この世で生きる人間には、データが同じだとしても確かに違いというのは出来てきます。生物というのは環境によって変化するものですからね。
その面で言えば、AIがファーストコンタクトの問題を持つというのは納得です。AIはどうしたって(意識というモノを持つのであれば)人間とは異なる論理/倫理を持つはずなんです。それが人類文明のブレイクスルーとなるのか、果たして…。というのは僕ではなくもっと偉い人が考えるべきですね。がんばれ偉い人。
ちなみに僕はAI賛成派です。メイドロボがどうしても欲しいので…。
まぁ賛成反対はともかくとして、いつか技術的特異点は迎えると思いますけどね。ああいうのは基本的に確率論というか、下手な鉄砲というやつなので。ヒトDNAを複製して雷に打たれたら強いAIができる、なんて荒唐無稽な話が本当に起こるかもしれません。一度起きてしまったら終わりっちゃ終わりなので、時間の問題だよなぁ、とかなんとか。
さて作品の所感。
最初は量子力学の話ばっかだったので、タイムリープした瞬間に「絶対コレシュタゲ方式*4でタイムリープしてる…!」と思ったのですが、まさか仮想世界だったとは…。
いやぁ、だまされました。中途半端にSF知識があると駄目ですね。まだまだSF初心者だなぁと感じる作品でした。そのおかげで十分に楽しめましたが。
特に素晴らしいと思ったのが、論理的に一つ一つ確かめていく部分。全体像を思いつくならともかく、こうした情報を小出しにしてその時点の最適を考えこんでいくってどんんだけ作りこんだんでしょうか。ライターすげぇなぁ。
シルプラはやっぱり作品作りが結構丁寧で、今回も誤読してしまいそうな状況をうまく絵を使って表現してましたね。こういうのってノベルゲームじゃないとやりにくい部分もあると思うので、実はSFとノベルゲーって相性いいのでは?と思ったり。缶詰少女…?知らない子ですね…。
今回は意識を主題としたお話でしたが、実はもっとしゃべりたかった…!例えばスタニスラス・ドゥアンヌの『意識と脳』では「意識は心の仮想現実シュミレーター」という論が出てたり、渡辺正峰氏の『脳の意識 機械の意識』なんかでは人工的に意識を作り出すのはそう遠くない未来かもしれないと言ってたりもするわけです。
「意識」「脳」「心」「体」という問題は僕のドンピシャな問題なので、今回引用した本とか、上の2つはぜひ読んでみてください。他にも面白い本はいっぱいあるのですが、まぁまた何時かの機会に、ということで。
お気に入りキャラは全員。ただしブックマン、お前序盤でチンポ出したのフツーに覚えてるからな。
AIはいかにあるべきかという純理的な議論の先に学習を進め、どんなAIにするのかを、確実に私たち人間が計画するようにしなければならない。
人はみな、すでに受け入れられていることや、決められていることの限界を押し広げて、大きな夢を持つ力がある。
私たちはいま、素晴らしき新世界の入り口に立っている。
危険な面もあるにせよ、それは胸躍る世界であり、私たちはその世界の開拓者なのだ。
―――スティーヴン・ホーキング 『ビッグ・クエスチョン-〈人類の難問〉に答えよう-』
(終わり)
*1:所謂、意識のハードプロブレムと呼ばれるそれは、AIの黎明期かもしれない現代においても未だ解決の目途は立っていない。意識を持つ『強いAI』をテストする手段も、1950年に提唱されたチューリングテストとは名ばかりの「話してみて人間が判断する試験」でしかない。それは果たして意識の証明と呼べるのだろうか?いや、そもそも意識がなにかもわかっていないのに、AIが意識を持つかどうかを判断などできるのだろうか?
*2:個人的な意見を言えば「生まれてくるべきじゃなかった」はちょいと言いすぎかもな、とも思いました。彼らは彼らとして生きていけばよかったわけですら。生の否定というのは僕の主義主張に反するので。
*3:わかりやすく言えば異文明との接触ですね。これの何が問題なのかというと、彼らは良き隣人となる可能性もあれば、侵略者になる可能性もあるという点です。さらに、新しい思想により、現行宗教や政府なんかはその有用性が示せなくなるかもしれません。まぁ平たく言えば現体制の破壊こそがファーストコンタクトの争点であるのですが。そもそも異文明は私たちと同じ論理/倫理を持っているのでしょうか?みたいな
*4:正確に言えば、時間の跳躍というのはどうやったって空間をいじる必要があるので、そこら辺の説明が一切ないのが疑問だったわけなのですがね。時間と空間がくっついているというのはアインシュタインの相対性理論によって証明されているわけですが、今回の作品はもしかして量子が過去に影響を及ぼすことを利用してタイムリープを?いやしかし意識までが過去に飛ぶ理由がなぁ…とか考えていました