6/11 サイエンスＺＥＲＯ「"ChatGPT"徹底解剖!AIと歩む未来を探る」

大規模言語モデルChatGPT

　今回は現在話題のAIのchatGPTについて。番組はいきなりクサい寸劇から始まるが、このChatGPTはかなり自然な会話が出来るということで世間で評判になっている。

　ChatGPTの特徴は「大規模言語モデル」であることだという。ネット上のあらゆる文書を学習して大量の言語モデルを習得しているのことに加えて、文脈を理解する能力を身につけたのだという。

文脈を読み取るための「注意機構」

　ChatGPTのTとはTransformerであるが、これが文脈を理解する鍵だという。その特徴は「注意機構」というもので、文章の中からどの単語が重要であるかを判断するようになっているという。これに対して従来の深層学習は文章を頭から順に理解するようになっていたという。ChatGPTが単語の重要性を判断するのに使用するのが各単語のベクトルであるというが、この辺りの詳細はかなり難しいようだが、とにかくこれで各単語の関連度なども考えた上で、文章の重要な要素を引っ張り出して判断しているのだという(正直、分かったような分からないようなである)。

　この注意機構を利用した新しいサービスなども進められている。視覚障害者向けに文章を音声で読み上げるサービスなどがあるが、これは頭から順に読むだけなので、例えば賞味期限を知りたいと思っても延々と関係ない情報を聞いていかないといけなくなる。それに対して注意機構を使用したら内容を判断して目次を作ることが出来るので、その目次から知りたい情報に直接アクセスできるのだという。うーん、内容の要約か。と言うことはこのブログなんかが一番ChatGPTを使えそうだ(笑)。もっともここは単なる要約でなく、私の解釈がかなり加わっているが。

ChatGPTの弱点と性格

　かなり優秀に思えるChatGPTであるが、実は「もっともらしい嘘」もかなりつくという。専門知識なんかに関しては、一見したら正しく見えるが実は嘘八百なんてことを言ってしまうらしい。さらに数学も苦手だという。これは数学の問題を解くソフトでなく、文脈を解釈するソフトだからだという。

　ただこの数学の問題について、ある呪文を付けたら精度が変化するというのである。東京大学大学院の小島武特任教授によると、ChatGPTに普通に数学の問題を与えたら正解率は17.7％に過ぎなかったのに、問題を与えて「論理的に考えてみよう」というフレーズを付けると74.8％まで向上し、「段階的に考えよう」と付けたら78.7％に上がったという。一方、正真正銘の呪文「アブラカタブラ」と付けると正答率は15.5％に低下、ブルースリーの「考えるなただ感じろ」と付けると18.8％であまり変化しなかったとのこと。どうも聞き方で思考回路が切り替わっているのではないかという話。

　このようなAIの知能メカニズムを解析することで、我々の知能のメカニズムの解明にもつながるのではないかと番組はしている。

　以上、今話題のChatGPTについて。正直なところ注意機構に関しては分かったような分からないようなである。恐らく完全に理解するにはかなり高度な情報科学の知識が必要となるだろうから、一般科学番組の解説としてはこの辺りが限界だろう。ちなみにベクトルの中身は数学の専門家が見ても意味が分からないというようなことをいっていたが、それこそがまさに統計処理の本質であり、「気持ち悪い」ところでもあるのである。つまり答えは出てくるんだが、その答えがどういう情報に基づいたどういう思考の元に出てきたかはあくまで不明である。こういうところに一種のブラックボックスがあるので、古いタイプの技術者は未だにこういうブラックボックスに馴染めないという感覚を持つとか(私自身も多かれ少なかれそういう感覚はある)。

　それにしてもAIの登場でいよいよブルーカラーだけでなく、ホワイトカラーの仕事も機会に置き換えられる時代が来そうである。昔はそうなったら人間はもっとクリエイティブな仕事をすることになるなんて言われていたが、実はほとんどの人間はそんなにクリエイティブではないということも明らかになってきているので、そうなるといよいよ仕事がなくなる者が増える可能性あり。実際に今時のなろう系ファンタジー小説なんかは、直にAIで書けるようになるんじゃないかと私は思っている。

忙しい方のための今回の要点

・ChatGPTは「大規模言語モデル」であり、ネット上の多くの文書から学んで言語能力を習得している。
・ChatGPTの特徴は注意機構で、これは各単語をベクトル計算して重み付けや関連性の分析を行うことによって、文章の文脈を読み取ると能力である。
・この注意機構を利用して、文章から目次を作って情報アクセスを容易にする、視覚障害者向けの読み上げサービスの開発がなされている。
・ただしChatGPTは「もっともらしい嘘」をつくことも知られており、また計算用のプログラムでないので数学の問題などはよく間違うことが知られている。
・ChatGPTに数学の問題を与える時に、問題の後に「論理的に考えてみよう」とか「段階的に考えよう」とかの呪文を付けることで正解率が向上することが分かった。恐らく思考のアルゴリズムが変化するのではと推測されている。