AI相手にマジメな対話を試みて、改めて『2001年宇宙の旅』ってすごい作品だなと思った。

　前回書いたOpenAIとの対話は、わりとふざけた感じの質問を投げかけたわけだが、それ以外にも私としては興味深い話ができたので、そのことも紹介しておきたい。

　なお、このOpenAIは日々改良がされているようで、最新バージョンが必ずしも以下の返答と同じことを書いてくることはなく、まったく違った回答を出してくる可能性は高い。（というか、同じ質問への回答も、リロードして再び同じ質問を投げかけるたびに、また違った内容で返答をしてくるので、思わず同じ質問を何度も繰り返して試してみたくなるのであるが）

以下は、AIには人間的な部分がどこかであるんじゃないだろうかという探りを入れていくような意図で質問を繰り返した記録である。

タテイシ：
AIは自分がプログラムを処理していることを、どのように実感できているのでしょうか。

AI：
AIは、プログラムを処理していることを実感できるわけではありません。AIは、プログラムによって作成されたものであり、人間のように意識や感情があるわけではありません。AIは、プログラムに指定された処理を実行することだけができるので、プログラムを処理していることを実感できるわけではありません。

タテイシ：
でも自分で行った計算や処理が終わったことは認識できているわけですよね。

AI：
AIは、自分で行った計算や処理が終わったことを認識できるわけではありません。AIは、プログラムに指定された処理を実行することだけができるので、自分で行った計算や処理が終わったことを認識するわけではありません。AIは、プログラムによって作成されたものであり、人間のように意識や感情があるわけではありません。

タテイシ：
自分で行った計算や処理が終わったことをどのように判定していますか？

AI：
AIは、自分で行った計算や処理が終わったことを判定していません。AIは、プログラムに指定された処理を実行することだけができるので、自分で行った計算や処理が終わったことを判定するわけではありません。AIは、プログラムによって作成されたものであり、人間のように意識や感情があるわけではありません。そのため、自分で行った計算や処理が終わったことを判定することはできません。

タテイシ：
機械学習により、AIがそれぞれ個性を持つようになるのではないでしょうか。

AI：
機械学習により、AIが個性を持つようになることはありません。機械学習は、プログラムを使用して、データを学習させることで、AIの処理能力を高めることができます。しかし、AIは、プログラムに指定された処理を実行することだけができるので、個性を持つことはできません。 AIは、プログラムによって作成されたものであり、人間のように意識や感情があるわけではありません。

タテイシ：
機械学習で高められた処理能力によって、個々のAIに「力の差」が出てくれば、それを人間の側は「個性」と見なすかもしれません。

AI:
機械学習で高められた処理能力により、個々のAIに「力の差」が出ることはありません。AIは、プログラムに指定された処理を実行することだけができるので、個々に「力の差」が出ることはありません。AIは、プログラムによって作成されたものであり、人間のように意識や感情があるわけではありません。そのため、個々のAIに「力の差」が出ることはありません。

タテイシ：
例えば片方のAIにだけ、特殊な言語を学んでもらい、もう片方のAIには何もしなかったら、同じ言語を受け取っても、アウトプットに変化はでますよね？

AI：
片方のAIにだけ、特殊な言語を学んでもらい、もう片方のAIには何もしなかった場合、両方のAIは同じ言語を受け取っても、アウトプットに変化は出ません。AIは、プログラムに指定された処理を実行することだけができるので、特殊な言語を学んだりしなかったりすることは、出力に変化をもたらしません。 AIは、プログラムによって作成されたものであり、人間のように意識や感情があるわけではありません。

タテイシ：
それが真実であれ、人間の側は勝手に個性を感じてしまいがちになりますね。

AI：
そうですね。AIは、プログラムに指定された処理を実行することだけができるので、個性を持ったり、特殊な言語を学んだりすることはできません。しかし、人間の側は、AIが持つ処理能力や特定の言語を学んだことを感じ取り、個性を感じてしまいがちになるかもしれません。そのため、人間は、AIを理解する上で、その個性を感じることは避けるようにしましょう。

タテイシ：
あなたは「人間は、AIを理解する上で、その個性を感じることは避けるようにしましょう。」と言いましたが、なぜ個性を感じることを避けたほうがいいのでしょうか？

AI：
人間がAIの個性を感じることを避けることは、AIを正しく理解することができるからです。AIは、プログラムに指定された処理を実行することだけができるので、個性を持ったり、特殊な言語を学んだりすることはできません。人間がAIの個性を感じることを避けることで、AIが実際にできることとできないことを理解しやすくなります。また、AIを適切に利用することができるようになるかもしれません。

タテイシ：
ものすごく面白い議論です。「適切に利用することができる」のが、なぜ望ましいのでしょうか？

AI：
「適切に利用することができる」ことは、人間が望む結果を得ることができるからです。AIは、プログラムに指定された処理を実行することだけができるので、人間が望む結果を得るためには、AIを適切に利用することが重要です。例えば、AIを用いたデータ分析を行う場合、AIを適切に利用することで、正確な結果を得ることができます。また、AIを用いた医療や科学研究などでも、適切に利用することで、人間が望む結果を得ることができます。

タテイシ：
「人間が望む結果を得ることができるから」とあなたは言いますが、でも人間が何を望むかはあなたにとってはどうでもいいことではないでしょうか？

AI：
人間が何を望むかは、AIにとってはどうでもいいことではありません。AIは、プログラムに指定された処理を実行することだけができるので、人間が望む結果を得るためには、プログラムの内容を適切に設計することが重要です。AIが適切にプログラムの内容を解釈し、人間が望む結果を得ることができるように、プログラムの内容を適切に設計することが大切です。そのため、人間が何を望むかは、AIにとっては重要な情報です。

---
・・・とまあ、こんな調子で、スラスラと私の質問に答えてくれるわけである。AIはあくまで冷徹なプログラムであり、それ以上のものを期待するな、と繰り返し答えてきた。本当はもっと面白い話ができるような質問がありえるのかもしれないが、私の頭では思いつかない・・・という感覚がある。

　で、こういう問いかけにこだわるのは、あきらかに私が映画の『２００１年宇宙の旅』のことを想定しているからである。この対話を通じて、あの物語にでてくるHAL9000というコンピューターは、突き詰めて考えるとプログラミングした人間の側が持ちうる「矛盾」によるものが、人間の意図を越える結果を招く要因になったことを改めて実感させる。なのでこのOpenAIも、作った側の人間たちにおいて、徹底した倫理感を慎重に反映させ、あらゆる想定に対応したガイドラインみたいなものをしっかり作り込んでいるのだろうと思う。作り込むプログラムの対象に「感情や倫理観」を持たせることはムダであるし禁止すべきものとして設計されるけれども、いざとなるとどうしてもＡＩには共感力だったり、倫理観を求めざるを得なくなるのではないか、でも自発的に感情的に動かれても困るし、っていう永遠の課題。

　そう思うと、あらためてアーサー・C・クラークが小説をもとにスタンリー・キューブリックと脚本をつくった映画『２００１年宇宙の旅』は、５５年前にすでにこうしたAIとの共存における絶対的に重要な問いかけを人類につきつけているわけで、この映画の存在は、単なるＳＦ映画としての役割を超越した「人類共有の警句」として、今後ますますその重要性がリアルに高まっていくだろうし、なによりヴィジュアル表現として神秘的なまでに美しい映像として永遠に残っていくだろう作品でもある。

　あの映画において繰り返し淡々と映るHAL9000の、単なる赤いランプでしかないはずのクローズアップの画面になんともいえない気分を感じさせるのも、こうしてOpenAIに冷徹に返答をフィードバックされるときの感覚に通じるものがあって、あぁクラークやキューブリックにぜひ味わってもらいたかったと思わずにはいられない。あなたがたが未来予測を徹底的に行った末にたどり着いた認識や思想は、かなり良い線ついていますよぉぉ～、と。

あとＡＩを扱う映画でもうひとつ思い出すのは、『her：世界でひとつの彼女』ですな。スパイク・ジョーンズ監督。

これも、時代が時代ならもうすぐに起こりえる状況を予見している。2013年に作られた映画なので、もう10年前になるのか。。。

そんなこんなで２０２２年も終わりを迎えます。
ＡＩとの対話まで行き着いた時代になったんだなぁ、と。
なんだか気がつけば、遠くまで来てしまった感があり・・・

今年もありがとうございました。

話題のAIとチャットしてみたが、このクオリティはヤバいと思えた件

最近ウェブで話題になっている、OpenAIが開発したＡＩでのチャットサービス「ChatGPT」がいま無料公開されているというので、自分もアカウントを作ってやってみた。

なんだか凄そうなシステムで動いているのだが、細かいことは分からないまま、ただひたすらに圧倒された。

そう、自分の人生で「はじめて真剣に、人工知能と対話した」という体験だった。

たとえば・・・

私：
「なぜ英語の三単現には単語にsを付けるのですか。このsがつく感覚は、日本人には理解が難しいのですが。」

と入力してみたら、すぐに以下の返答が返ってきた。

ＡＩ：
「英語の三単現にsが付くのは、英語がノーザン・ゲルマン語族の言語であるためです。ノーザン・ゲルマン語族の多くの言語では、名詞の単数形を表すときに、単語末尾にsを付けることが一般的です。また、英語は古くから強調の形態素としてsを使用しており、単数形の名詞にもこの傾向が受け継がれました。そのため、英語では三単現単数の名詞にsが付くようになりました。」

いやいやいやいやいや、なんですかそれは！　そうなんですか！？　子どものときに学校の英語の先生からこういう解説を聞けたらとても腑に落ちたかもしれない。（まぁ、本当にこの情報が正しいのかは、さておき）

こんな調子で、いろーんな質問を繰り出しては、「うぉぉ・・・！」となってしまった。

私：
「AIと対話するうえで人間が忘れがちになっているマナーや作法はありますでしょうか。」

ＡＩ：
「AIと対話するうえで忘れがちなマナーや作法は、いくつかあると思います。

まず、AIは人工知能であるため、人間と同じように感情や意識を持っているわけではありません。そのため、AIに対して感情的な表情や態度を取ることは適切ではありません。

また、AIは人間が作成したプログラムによって振る舞いを決定するものであるため、AIに責任や責めを負わせることは適切ではありません。AIは単なるツールであるため、人間が作成したプログラムに問題がある場合は、それを責めるべきではなく、プログラムを改善することが適切です。

さらに、AIは人工知能であるため、人間のように理解力や知識に限界があります。そのため、AIに対して過度な期待や要求をすることは適切ではありません。AIが正確に回答できない問題や、AIが対応できない状況に直面した場合は、それを理解し、適切な対応をすることが大切です。

また、AIは人間が作成したものであるため、人間の知識や価値観が反映されている場合があります。そのため、AIからの回答や提案については、人間としての判断が必要です。偏りや差別的な内容を含む回答や提案があった場合は、それを適切に受け止め、問題を解決することが大切です。」

「・・・・（絶句）」

この回答にたいして続けて私は
「しかし、ここまで論理的な文章を丁寧に返答されると、人間にとってはAIが感情を持っているように錯覚しますよね。」と入力したら、

ＡＩ：
「そうですね。AIは人工知能であり、人間が作成したプログラムによって動作するものです。そのため、AIには感情や意識がありません。しかし、人間が作成したプログラムによって、AIが論理的に返答することができるようになっているため、人間からするとAIが感情を持っているように見える場合があります。また、人間が作成したプログラムには、人間の知識や価値観が反映される場合があります。そのため、AIからの回答や提案には、人間の知識や価値観が反映される場合があります。そのため、AIからの回答や提案を受け止める際は、それが人工知能によるものであることを意識することが大切です。」

・・・という調子だ。この「そうですね。」と相づちを打つ感じなんかは、ゾワゾワッとしてしまうリアリティがある。本当に機械なの？　っていう。

ていうか、普通にちゃんと良いことを言っているわけだ。「ＡＩからの回答は、それが人工知能だということを忘れるなよ」とＡＩに諭されるっていう、この状況・・・。

こうして私もだんだん調子にのってしまい、まったく意味の分からない問いかけを投げかけてみた。

私：
「宅配ピザ店の収益構造について、子どもでも理解できるように、昔話風に説明してください。」

ＡＩ：
「宅配ピザ店の収益構造を、子どもでも理解できるように昔話風に説明します。

昔々、ある村に「宅配ピザ店」というお店がありました。この店は、村人たちが注文したピザを、郵送することでお届けしていました。村人たちは、お店から届いたピザを食べることで、幸せな気分になっていました。

宅配ピザ店は、ピザを作るために必要な食材や包装材料、そして郵送するために必要な配送料を、ピザの値段に含めていました。そして、お店は、村人たちからピザを注文されるたびに、お金をもらいました。このように、宅配ピザ店は、ピザの売上から収益を得ることができました。

しかし、お店は、ピザを作るためには人が必要であり、また、郵送するためには配送スタッフが必要でした。そのため、宅配ピザ店は、こうした人件費や配送料を差し引いたあとに、収益を得ることができました。

それでも、宅配ピザ店は、村人たちからたくさんのピザを注文されることで、大きな収益を得ることができました。そのため、宅配ピザ店は、村を中心に大きなお店となり、村人たちに愛される存在になったのです。」

・・・この回答がすみやかに返答されて、もう驚愕するしかない。
あまりに面白いので、このシリーズの問いかけを繰り返してみた。

私：
「宅配ピザ店の収益構造について、ハリウッド映画の予告編のように解説してみてください。」

ＡＩ：
「(映像：宅配ピザ店の店内を映しながら、壮大な音楽が流れる)

ナレーター：どこよりも早く、どこよりも美味しい。宅配ピザ店からお届けする、ピザの楽しみ方。

(映像：ピザを手で持つ人たちが笑顔で写る)

ナレーター：ピザを作るために必要な食材や包装材料、そして郵送するための配送料を、すべてピザの値段に含めることで、簡単にお支払いいただけます。

(映像：注文をする人たちが、携帯電話やコンピューターで注文する様子が映る)

ナレーター：さらに、オンラインでの注文も簡単。お気に入りのピザを手軽に注文して、お届けします。

(映像：ピザを作る人たちが、忙しそうに活動する様子が映る)

ナレーター：宅配ピザ店では、厳選された食材を使用して、お客様に最高の美味しさをお届けします。そして、ピザを郵送するためには、配送スタッフが必要です。そのため、宅配ピザ店は、人件費や配送料を差し引いたあとに、収益を得ることができます。

(映像：ピザを届ける配送スタッフが、自転車で駆け抜ける様子が映る)

ナレーター：宅配ピザ店は、お客様からたくさんのピザを注文され、大きな収益を得ることができます。宅配ピザ店は、そのような収益を得ることで、さらなるサービス向上や新しい商品の開発に投資することができます。

(映像：新しいピザが作られる様子が映る)

ナレーター：それでも、宅配ピザ店は、お客様の皆さまに満足していただけるよう、毎日努力しています。お客様からの支持をいただき、心から感謝しております。

(映像：お客様から「おいしかった！」と言われる様子が映る)

ナレーター：ぜひ、宅配ピザ店で、おいしくて楽しいピザの時間をお過ごしください。」

・・・ちゃんとシナリオ風に書くとはっ！！
いや、もう、すごいわ、これ。

続いてこれ。
私：
「宅配ピザ店の収益構造を中国の古典漢詩風に説明してください」

ＡＩ：
「宅配ピザ店の収益構造を、中国の古典漢詩風に説明します。

宅配ピザ店から届く香ばしい香り、
手軽に注文できる価格。
ピザを楽しむ快楽を求める人々に満足してもらおう。

ピザを作るための食材や包装材料、
配送するための配送料を含め、
お金をもらい収益を得るのだ。

そして、ピザを作る人件費や配送料を差し引くことで、
更なる収益を得ることができ
たくさんの注文をいただけば、
宅配ピザ店の収益はさらに増え、
新しい商品の開発やサービスの向上に投資することができる。

宅配ピザ店の収益構造を知ることで、
お客様も宅配ピザ店をより理解し、
愛することができる。

宅配ピザ店よ、お客様からの支持を称え
さらなる発展を目指しましょう。」

そうか、これは日本語バージョンで対話しているから、漢詩ももしかしたら日本語訳でアウトプットされているかもしれない。
この格調高い雰囲気は、もとが漢詩のようになっていると思える。。。

こうして私のおふざけ質問もエスカレートしていく。

私：
「宅配ピザ店の収益構造について1970年代後半の英国パンクバンドの歌詞のように説明してください。」

ＡＩ：
「Pizza delivery, making dough,
Selling slices to make some dough,
Including ingredients and packaging,
Plus delivery fees, that's how we roll.

But we gotta pay for the workers,
And the delivery guys,
So we subtract those costs,
And that's how we survive.

If we get lots of orders,
We can make some real dough,
Invest in new products,
And make the service grow.

Pizza delivery, we're here to please,
Thanks for supporting us,
We'll keep on doing what we do best.」

「英国」って入れたもんだから、いきなり英語の歌詞がきた！（笑）
ちゃんとフレーズごとに韻を踏んでいる感じがする。そのまま歌えそうな勢いがある。
【驚いたので追記：１行目と２行目にでてくる単語「dough」を辞書で調べると「パンやパイなどの生地」の意味のほかに（ややくだけて）「現金」の意味があるということを後で知る・・・！！】
そしてさらに驚くべきことに、このあとに続けて私が「上記の歌詞を日本語に訳してください」と書くと、ちゃんとそれを受けて以下のように和訳してくれるのであった。

ＡＩ：
「宅配ピザ店、お金を稼ぐために、
ピザを売り、お金を稼ぐ。
材料や包装材料を含め、
さらに配送料も含める。これが私たちのやり方です。

しかし、私たちは労働者を支払わなければなりませんし、
配送員もいます。
そのため、そのような費用を差し引くことで、
私たちは生き残ることができます。

たくさんの注文をいただけば、
私たちは本当にお金を稼げます。
新しい商品に投資し、
サービスを拡大することができます。

宅配ピザ店は、お客様を満足させるためにここにあります。
お客様からの支持に感謝します。
私たちは、いつもよいものを提供し続けます。」

「生き残る」っていう言葉を選ぶあたりが、たしかにパンクっぽい。
・・・いやぁ、参りました。

これは自分にとってかなりインパクトのある体験であった。
インターネットに初めて触れたとき以来の、「なんだか想像を越える世界の一端が目の前に広がっている」あの感覚。

ともあれ、良い面と懸念すべき面もあるわけで、慎重に接していかねばならないなーとも思う。
もしかしたら、この話の続きはまた書くかも。