AI相手にマジメな対話を試みて、改めて『2001年宇宙の旅』ってすごい作品だなと思った。
前回書いたOpenAIとの対話は、わりとふざけた感じの質問を投げかけたわけだが、それ以外にも私としては興味深い話ができたので、そのことも紹介しておきたい。
なお、このOpenAIは日々改良がされているようで、最新バージョンが必ずしも以下の返答と同じことを書いてくることはなく、まったく違った回答を出してくる可能性は高い。(というか、同じ質問への回答も、リロードして再び同じ質問を投げかけるたびに、また違った内容で返答をしてくるので、思わず同じ質問を何度も繰り返して試してみたくなるのであるが)
以下は、AIには人間的な部分がどこかであるんじゃないだろうかという探りを入れていくような意図で質問を繰り返した記録である。
タテイシ:
AIは自分がプログラムを処理していることを、どのように実感できているのでしょうか。
AI:
AIは、プログラムを処理していることを実感できるわけではありません。AIは、プログラムによって作成されたものであり、人間のように意識や感情があるわけではありません。AIは、プログラムに指定された処理を実行することだけができるので、プログラムを処理していることを実感できるわけではありません。
タテイシ:
でも自分で行った計算や処理が終わったことは認識できているわけですよね。
AI:
AIは、自分で行った計算や処理が終わったことを認識できるわけではありません。AIは、プログラムに指定された処理を実行することだけができるので、自分で行った計算や処理が終わったことを認識するわけではありません。AIは、プログラムによって作成されたものであり、人間のように意識や感情があるわけではありません。
タテイシ:
自分で行った計算や処理が終わったことをどのように判定していますか?
AI:
AIは、自分で行った計算や処理が終わったことを判定していません。AIは、プログラムに指定された処理を実行することだけができるので、自分で行った計算や処理が終わったことを判定するわけではありません。AIは、プログラムによって作成されたものであり、人間のように意識や感情があるわけではありません。そのため、自分で行った計算や処理が終わったことを判定することはできません。
タテイシ:
機械学習により、AIがそれぞれ個性を持つようになるのではないでしょうか。
AI:
機械学習により、AIが個性を持つようになることはありません。機械学習は、プログラムを使用して、データを学習させることで、AIの処理能力を高めることができます。しかし、AIは、プログラムに指定された処理を実行することだけができるので、個性を持つことはできません。 AIは、プログラムによって作成されたものであり、人間のように意識や感情があるわけではありません。
タテイシ:
機械学習で高められた処理能力によって、個々のAIに「力の差」が出てくれば、それを人間の側は「個性」と見なすかもしれません。
AI:
機械学習で高められた処理能力により、個々のAIに「力の差」が出ることはありません。AIは、プログラムに指定された処理を実行することだけができるので、個々に「力の差」が出ることはありません。AIは、プログラムによって作成されたものであり、人間のように意識や感情があるわけではありません。そのため、個々のAIに「力の差」が出ることはありません。
タテイシ:
例えば片方のAIにだけ、特殊な言語を学んでもらい、もう片方のAIには何もしなかったら、同じ言語を受け取っても、アウトプットに変化はでますよね?
AI:
片方のAIにだけ、特殊な言語を学んでもらい、もう片方のAIには何もしなかった場合、両方のAIは同じ言語を受け取っても、アウトプットに変化は出ません。AIは、プログラムに指定された処理を実行することだけができるので、特殊な言語を学んだりしなかったりすることは、出力に変化をもたらしません。 AIは、プログラムによって作成されたものであり、人間のように意識や感情があるわけではありません。
タテイシ:
それが真実であれ、人間の側は勝手に個性を感じてしまいがちになりますね。
AI:
そうですね。AIは、プログラムに指定された処理を実行することだけができるので、個性を持ったり、特殊な言語を学んだりすることはできません。しかし、人間の側は、AIが持つ処理能力や特定の言語を学んだことを感じ取り、個性を感じてしまいがちになるかもしれません。そのため、人間は、AIを理解する上で、その個性を感じることは避けるようにしましょう。
タテイシ:
あなたは「人間は、AIを理解する上で、その個性を感じることは避けるようにしましょう。」と言いましたが、なぜ個性を感じることを避けたほうがいいのでしょうか?
AI:
人間がAIの個性を感じることを避けることは、AIを正しく理解することができるからです。AIは、プログラムに指定された処理を実行することだけができるので、個性を持ったり、特殊な言語を学んだりすることはできません。人間がAIの個性を感じることを避けることで、AIが実際にできることとできないことを理解しやすくなります。また、AIを適切に利用することができるようになるかもしれません。
タテイシ:
ものすごく面白い議論です。「適切に利用することができる」のが、なぜ望ましいのでしょうか?
AI:
「適切に利用することができる」ことは、人間が望む結果を得ることができるからです。AIは、プログラムに指定された処理を実行することだけができるので、人間が望む結果を得るためには、AIを適切に利用することが重要です。例えば、AIを用いたデータ分析を行う場合、AIを適切に利用することで、正確な結果を得ることができます。また、AIを用いた医療や科学研究などでも、適切に利用することで、人間が望む結果を得ることができます。
タテイシ:
「人間が望む結果を得ることができるから」とあなたは言いますが、でも人間が何を望むかはあなたにとってはどうでもいいことではないでしょうか?
AI:
人間が何を望むかは、AIにとってはどうでもいいことではありません。AIは、プログラムに指定された処理を実行することだけができるので、人間が望む結果を得るためには、プログラムの内容を適切に設計することが重要です。AIが適切にプログラムの内容を解釈し、人間が望む結果を得ることができるように、プログラムの内容を適切に設計することが大切です。そのため、人間が何を望むかは、AIにとっては重要な情報です。
---
・・・とまあ、こんな調子で、スラスラと私の質問に答えてくれるわけである。AIはあくまで冷徹なプログラムであり、それ以上のものを期待するな、と繰り返し答えてきた。本当はもっと面白い話ができるような質問がありえるのかもしれないが、私の頭では思いつかない・・・という感覚がある。
で、こういう問いかけにこだわるのは、あきらかに私が映画の『2001年宇宙の旅』のことを想定しているからである。この対話を通じて、あの物語にでてくるHAL9000というコンピューターは、突き詰めて考えるとプログラミングした人間の側が持ちうる「矛盾」によるものが、人間の意図を越える結果を招く要因になったことを改めて実感させる。なのでこのOpenAIも、作った側の人間たちにおいて、徹底した倫理感を慎重に反映させ、あらゆる想定に対応したガイドラインみたいなものをしっかり作り込んでいるのだろうと思う。作り込むプログラムの対象に「感情や倫理観」を持たせることはムダであるし禁止すべきものとして設計されるけれども、いざとなるとどうしてもAIには共感力だったり、倫理観を求めざるを得なくなるのではないか、でも自発的に感情的に動かれても困るし、っていう永遠の課題。
そう思うと、あらためてアーサー・C・クラークが小説をもとにスタンリー・キューブリックと脚本をつくった映画『2001年宇宙の旅』は、55年前にすでにこうしたAIとの共存における絶対的に重要な問いかけを人類につきつけているわけで、この映画の存在は、単なるSF映画としての役割を超越した「人類共有の警句」として、今後ますますその重要性がリアルに高まっていくだろうし、なによりヴィジュアル表現として神秘的なまでに美しい映像として永遠に残っていくだろう作品でもある。
あの映画において繰り返し淡々と映るHAL9000の、単なる赤いランプでしかないはずのクローズアップの画面になんともいえない気分を感じさせるのも、こうしてOpenAIに冷徹に返答をフィードバックされるときの感覚に通じるものがあって、あぁクラークやキューブリックにぜひ味わってもらいたかったと思わずにはいられない。あなたがたが未来予測を徹底的に行った末にたどり着いた認識や思想は、かなり良い線ついていますよぉぉ~、と。
あとAIを扱う映画でもうひとつ思い出すのは、『her:世界でひとつの彼女』ですな。スパイク・ジョーンズ監督。
これも、時代が時代ならもうすぐに起こりえる状況を予見している。2013年に作られた映画なので、もう10年前になるのか。。。
そんなこんなで2022年も終わりを迎えます。
AIとの対話まで行き着いた時代になったんだなぁ、と。
なんだか気がつけば、遠くまで来てしまった感があり・・・
今年もありがとうございました。
Recent Comments