AIを使っていると出てくる「チャット」。
これを理解すれば、なぜトークンがタンクと密接に関係するのかが理解出来ます。
前回の記事はこちら。「トークン」についての記事になります。
そもそも「チャット」ってなに?
みなさんが持つチャットのイメージとは
ぱっと「チャット」と言われると、どういうイメージですか?
たいていの人は、よくあるヘルプのところにあるAIチャットで回答みたいなものだと思います。
他には、LINEのオープンチャットとか。
まあ、共通するイメージというのは、「会話」という感じだと思います。
文章でも口でも言葉で会話を交わす感じ。
だから、AIにお願いをする「プロンプト」も会話みたいな感じだから、「チャット」って言うのかと思うと思います。
でも、実際に使うと、チャットっていっぱいできますよね。
何度も質問を繰り返すたびに、新しいチャットができて、チャット履歴がもう管理できなくなるくらい。
「あれ?この質問のやりとり前にしたっけ?」とか。
チャットの準備と管理
チャットを準備するのは
まず、実際にAIを利用する際に、チャットを準備するのは誰でしょうか。
それは、あなた自身です
実際に使うとわかります。
AIの画面に入力画面がありますよね。
そこに「○○の利用方法について教えて」と入力すると、AIにもよりますが、たいてい画面のどこか(左側が多い)に、そのタイトルがついたチャットが作られます。「○○利用方法」とかいう感じで。
そして、そのチャットに「○○の利用方法」について、AIとやり取りをしていくことになります。
チャットを管理するのは
では、この管理は誰がするのでしょうか。
まずは「あなた自身」です
先ほどの例で言えば、「○○の利用方法」というチャットに入れていくという行為は、人間側がやらなくてはなりません。他の別の質問、例えば「××の調査をして」とか入れてしまうと、チャットの中身がぐちゃぐちゃになります。種類が全く違うのですから。
もうひとつ関係するものがあります。
それはAIの開発会社です
AIを利用している以上、そのAIの会社のデータベース上から回答を生成しています。
つまり、チャットを作るとAIは自分の会社のデータベースに接続をして、このユーザは「○○の利用方法」というチャットを作ったと登録をします。
そして、会社側はチャットのやり取りを保存し、必要に応じて過去の会話をAIの処理へ渡します。
その上でAIが回答を生成したりしているのです。
以下のような感じです。

チャットとタンクの関係
「チャット=タンク」である
ここまで来ると、前回のタンクの比喩とはなんなのかがわかるかと思います。
つまり、
チャットとは人間とAIのやりとりの入れ物
なのです。
よって、前回までのトークンで「タンク」と表現したのは、このことを言いたかったためです。
流れとしてはざっくりこうなります。
人間がプロンプトを、チャットを利用してAIに投げ、AIがトークンに分ける。
そしてAIはそのトークンで理解した情報を元に、データベースの情報などを利用しながら、
回答を「生成」する。
そして、その生成結果を人間へ表示する。
さらにチャット履歴は会話として保存され、AIが処理する際にトークンとして扱われる。
まさに、「タンク」にやり取りと言う「トークン」という水が積み上がって行くような感じがしませんか?
整理すると
もう一度整理すると、
このチャット(タンク)の管理は、まず人間が主体です。
新しく準備すること、用途を決めること、何を入れるかを選ぶことは、使う側が行います。
一方で、その会話の履歴(タンク)はAIサービス側に保存され、必要に応じて読み出せるよう管理されています。
実際にチャットを利用する
事例で考える
ここまで来たら、事例の続きを用いながら、話を進めていきましょう。
まず、自分が利用しているA社のAI用にこのタンクをひとつ準備しました。
そして、このタンクは今のところAIに聞くのは料理のレシピのことしかないので、レシピ用としました。
そういうことで、レシピのやり取りをどんどん入れていきます。要はやり取りのターンが増えていきます。
でも、前回少し触れた、レシピの溢れもまだないようです。
そしてレシピのやりとりを入れればいいと決めたので、シチューのレシピもカレーのレシピも肉じゃがのレシピなどさまざま。
すると、そのうち不都合なことが起きました。
レシピの質問が増えていくたび、なにか変な回答が増えたのです。
なぜかシチューのレシピに隠し味は?ときいたら、「ビターチョコを入れるといいです」とか。
それってカレーじゃないの?
またあるときには、カレーに合う、何か目新しい具材は?と聞いたら、「さやえんどうです」とか。
それって明らかに肉じゃがじゃないとか。

なぜ、このような不都合が起きてしまったのでしょう。
ヒントは、「いろいろなレシピを入れた」です。
ぜひ、次回の記事でお目にかかりましょう。
