前回、「チャットとは人間とAIのやりとりの入れ物」と解説しました。
では、今回はその際に起きうる問題点を掘り下げながら、「チャット」の理解を深めましょう。
前回の記事はこちら。「チャット」についての概要記事になります。
前回で起きた不都合の整理
チャットを利用したときに起きた不都合
まず、前回の不都合が起きたところまでまとめていきましょう。
１．レシピ用タンクを準備したので、レシピをいろいろ入れた
レシピのやり取りをどんどん入れていきます。
シチューのレシピもカレーのレシピも肉じゃがのレシピなどさまざま。
２．おかしいことが起きる
回答がおかしくなってきました。なにか変な回答が増えたのです。
なぜかシチューのレシピに隠し味は？ときいたら、「ビターチョコを入れるといいです」とか。
またあるときには、カレーに合う、何か目新しい具材は？と聞いたら、「さやえんどうです」とか。
なぜ、このような不都合な状態になったのか
問題は使い方だった
そんなこともあって、AIにものすごく詳しい人に聞いてみました。
経緯を説明してみたら、こう言われました。
「もしかして、お使いの方法って、タンクを明確に「レシピ専用」としていますよね。その中にはいろいろなレシピを入れていませんか？」
「はい、その方がポンポン入れやすいので」
「でも、それだと、いろいろなレシピがタンクに混在してしまいます。」
「そうすると、AIの仕組みとして、基本的に、なるべく過去のほぼ全部の経緯を参照して最適な回答をしようとします。」
「以上のような参照方法をしてしまうので、途中の関連するようなことも拾って、『これも関係あるのではないのかな？』とAIは回答をする仕組みなのです。」
「なので、隠し味という言葉に反応して「ビターチョコ」と返したり、あまり入れないという言葉に反応して「さやえんどうです」とか回答してしまうのです。」
回答が遅くなることも同じ原因
「ちなみに、最近の回答って遅くないですか？」
「確かに、明らかに遅くなっています。」
「それは、カレーのことを聞いているのに、先ほど説明したような参照方法なので、時間がかかってしまうのです。」
解決策は専用タンク
まずは専用タンクの準備
「ではどうすれば、このようなことは防げるのですか？」
「全て一緒のレシピタンクではなく、シチュー用タンク・カレー用タンク・肉じゃが用タンクと分けることです。」
「そうすると、かなりの数のレシピタンクをAIの会社に管理してもらうことになりませんか？」
「大丈夫です。タンクはAI会社側に保存されているものだと思ってください。
ただし、人間側が一つのタンクに何でも入れてしまうと、AIが回答するときに、関係のない過去のやり取りまで前提として扱ってしまうことがあります。
用途別にタンクを分けておけば、AIに渡る前提も整理されます。
結果として、あなたが聞きたいことに合った回答が返りやすくなり、やり取りも進めやすくなるのです。」
「つまり、専用タンクを作って軽くしてもらう方が、管理のしやすさもあり、結果としてあなたの要望に応じてAIの回答が速く・正確になるのです。」
「具体的には？」
「まず、ご自身でシチュー用タンク・カレー用タンク・肉じゃが用タンク・その他たまに作るタンクなど、ご自身が分けたいと思うものに応じて、タンクを準備してください。」
準備が終わったら、今までのやりとりを要点にして移す
「その状態では全て空っぽ状態なので、今までの「レシピ全般」のタンクに、例えば『シチュー用タンクを準備したから、今までのシチューに関するやり取りの要点をまとめてちょうだい。』と指示します。」
「仕事で言うと『引継書』ですね。そうすると、AIは要点をまとめるので、ぎゅっと、なるべく大事なところを落とさずにまとめてくれます。」
「そして、新しいシチュー用タンクに、『これが今までのやり取りの要点だから、このチャットでの前提として扱って』と言います。これで、シチュー用タンクの準備完了です。」
「同じことを必要なタンクの数だけ行うと、シチュー用タンク・カレー用タンク・肉じゃが用タンク・その他たまに作るタンクの準備が整います。」
「以上のようなことをすると、シチューならシチューの質問と回答をしていけば、その中で完結します。よって、カレーのことも混じることはないし、シチューのことだけ参照するので、回答速度も速くなります。」
その他のタンクについて
「ちなみに、もういらなくなったタンクは、破棄をしてもかまいませんし、ただ保管するだけでもかまいません。
ただ、ご自身で準備したのと同じように、破棄するかそのまま保管するかの判断は、ご自身ですることになります。」
「さらに、新しく麻婆豆腐のレシピのタンクが欲しいということになれば、その際もタンクを準備してください。そして、すでにあるタンクに麻婆豆腐のレシピがあれば、同じ手順をしてください。」
「ただし、本当に新しいものであれば、空っぽなので、そこからAIとのやりとりが始まります。」
その後に実践
タンクを準備したりとかしてみた
教えてもらったようにやってみたところ、かなりどころかほぼ懸念は払拭。
レシピも混在することもないし、新しい麻婆豆腐や茶碗蒸しとかたまにしか使わなくても、タンクが軽いので、必要なときにパッと答えてくれるようになりました。
しかも、アレンジもその料理に合ったアレンジの方法も教えてくれます。
AIにおけるチャットとは
チャットとは、人間とAIの一連のやり取りをまとめて保存・管理する入れ物
つまり、前回もまとめましたが、チャットとは、人間とAIの一連のやり取りをまとめて保存・管理する入れ物です。
では、なぜチャットというのか。
これは、現在一般的にAIとして利用されているものが、会話型AI（生成AIの技術を使って作られた、超高性能な会話型AI）だから、会話形式を採用しています。
よって、会話をしているように処理を行っているため、「チャット」というようになっています。
トークン最後の課題については
トークン最後の問いは
「トークン」の最後に、以下のポイントを上げました。
・タンクって誰が管理しているの？
・そして、タンクの水はどこから捨てるの？
ここまででおわかりのように、１つ目の管理についてはこのようになりました。
- まずは自分が主体となって管理する
- そしてAI会社も状態管理をする
いよいよ、残りの問題。
なぜチャット（タンク）に水（トークン）は入れ続けることができるのか。
どうやって、AIの仕組みとして解決しているのかを考えていくことになります。
ぜひ、次回の記事でお目にかかりましょう。
