----------------------------------
アマゾン上にＡＩが著者の電子書籍２００種類超確認…「ＣｈａｔＧＰＴ」利用、信頼性に懸念

【ニューヨーク＝小林泰裕】ロイター通信は２１日、対話型ＡＩサービス「Ｃｈａｔ（チャット）ＧＰＴ」が著者として記載された電子書籍が、アマゾン・ドット・コムのウェブサイト上で２００種類以上確認されたと報じた。チャットＧＰＴの回答には多くの誤りが含まれると指摘されており、書籍の信頼性の低下につながる恐れもある。
（読売新聞オンライン　2023年2月22日版より版より）
　　----------------------------------
　OpenAI社が2022年11月30日に公開したチャットボット、ChatGPTが世界中で注目を集めている。
https://openai.com/blog/chatgpt

　英語で書かれているので一見戸惑うが、日本語でテキストを入力すると、日本語で返ってくる。試しにいろいろ入力してみると、このChatGPTがあらゆる分野のビジネス、クリエイティブ、教育などの面で、大きな影響力を持つことになるのでは、と考えさせられる。翻訳や、答えのはっきりしている単純な質問の受け答えはもちろん、「文章の要約」や「アイデアの提案」、「プログラミング」や、小説や詩の執筆など創造的な分野での使い方も可能、と謳われている。
　AIの性能が向上すると、人間の仕事が奪われるのではないか、という懸念は何年も前から言われてきた。AIが書いた電子書籍には「多くの誤りが含まれる」とあるが、人間が著者の書籍にも、多くの誤りが含まれることがあるのは周知の事実である。AIによる小説の“執筆”は（需要があるならば）技術的にはクリアーされつつあるのではないか。

AIに求められるのは「対話」する力

　では、今後、より求められるAI技術はどのようなものだろうか。近年、音声認識の技術も格段に向上し、スマホやAIスピーカーに話しかけて、天気予報を聞いたり、スケジュールを確認したりなどの利用は当たり前になりつつある。
『AIの雑談力』（東中竜一郎著、角川新書）の著者は、20年来ずっと、企業や大学の研究室で、人間と対話を行うAIシステムの研究をしてきた。2021年2月に刊行された本書では、「これらのAIが、最近雑談を始めている、それも急速に」と書いている。人間にとっては簡単な「雑談」がAIにとってはなぜ「高度な技術」となるのか、ディープラーニングを含む、さまざまな技術や方法論を用いて、人間と機械が「対話」できる技術の根底に何があるかを解説する。
　GAFAMを始めとする世界中の大企業が、どのような話題でも人間と「対話」できる力、つまり「雑談」ができるAIの開発に注力しているのは、もちろんそれが商品の購買を促進したり、新たなサービスの提供が可能になるなど、多様なビジネスにつながるからでもある。音声やテキストから「感情を理解する」という技術も研究されていて、これはコールセンターでも既に活用されているという。
　一方で、著者のような研究者は、AIの研究を通じて、人間にとって「対話」とは何か、「雑談」とは何かにも向き合うことになったという。

AIと人間の対話が破綻するのは

　著者の開発した雑談AIは、大阪大学の石黒 浩氏（自分自身のアンドロイドを作成したことで有名）が監修したマツコ・デラックスのアンドロイドである「マツコロイド」にも組み込まれているという。マツコロイドとマツコデラックス本人との対話が再現されているが、マツコ本人が何とか合わせながら話をつなげようとしても、最後は変な対話になってしまう様子も再現されている。
　人間とAIが対話をつなげるために、「どのような場合に対話が破綻するか」という研究もある。膨大なデータベースから「出力すべき発話」を瞬時に選ぶ必要がある。その時の文章例には「新聞記事」のデータベースが活用できるが、そのままだと対話が硬くなりすぎてしまう。もう少し柔らかく自然な対話にするために著者の研究ではTwitterの文章を利用していたが、今度は文章が極端にくだけすぎてスラングのようになってしまうため、フィルターをかける必要もあったという。
　人間同士の対話では主語や話題の中でわかりきっている言葉を省略することが多い。例えば、猫についての話をしている文脈では、猫、という言葉はわかりきっているので省略して「（猫は）かわいいね」と言うことがある。しかし、AIが相手だと、AIは自分に対して「かわいいね」と言われたと思い込んで「ありがとうございます」とお礼を言ってしまうことがある。そうなると、人間の側は突然お礼を言われたので困惑して両者の間に会話が成り立たなくなってしまう。
　実際の対話では、雑談のような簡単なやりとりこそ、省略されている語が多く、AIが理解できるように、主語などを適切に補って会話が破綻しないようにすることが重要だという。本書では、著者の研究事例を中心に、AIと人間の対話、とりわけ「雑談」に何が必要かを解説している。
　本書の刊行から2年、AIとの対話はどうなったか。アンドロイドなどロボットと人間が音声で対話し、雑談をすることに比べれば、テキストベースでの対話はそれより技術的にハードルは高くないことは想像できるが、ChatGPTの注目は、著者の予想通りだっただろうか。
　ちなみに、最近、筆者が試しにChatGPTと「やりとり」したのはこのような感じである。

「ロマン派の作曲家で、交響詩を創始したのは誰ですか？」と聞いてみた。予想する答えはフランツ・リストだったのだが……

　ベートーヴェンが「交響詩を創始した」（？）と言い張ったり、リストの有名な交響詩（？）「プロミネンス」について延々と述べたりしている。「プロメテウス」という曲はあるが、それではない、とわざわざ主張している。これらは明らかな誤りなのだが、クラシック音楽にあまり詳しくなければ「そうなのか、なるほど」と思ってしまうかもしれない。日本語として不自然な言い回しもあまり見られないので、AIが返答しているということも気づかれにくいかもしれないのが、かえって怖い。
　宿題やレポート作成で困った時に話題のChatGPTを使用してみる人も多いと思うが、少なくともその課題を出した教師ならChatGPTが書いた文章を一瞬で見抜くに違いない。全く知らない分野でChatGPTに頼るのはまだまだ危険だろう。それよりも、AIに適切に理解してもらえるように、主語を省略しない書き方をするなど、人間側が日本語の使い方を変えていく必要が出てくるかもしれない。
　どの分野で、どのような用途であればChatGPTのような技術を使いこなせるのか。現時点におけるその可能性と限界を知る上でも、ChatGPTを一度体験してみてほしい。

（編集部　湯原葉子）