AIを使っていると出てくる「チャット」。
これを理解すれば、なぜトークンがタンクと密接に関係するのかが理解出来ます。


前回の記事はこちら。「トークン」についての記事になります。

そもそも「チャット」ってなに?

みなさんが持つチャットのイメージとは

ぱっと「チャット」と言われると、どういうイメージですか?
たいていの人は、よくあるヘルプのところにあるAIチャットで回答みたいなものだと思います。
他には、LINEのオープンチャットとか。

まあ、共通するイメージというのは、「会話」という感じだと思います。
文章でも口でも言葉で会話を交わす感じ。

だから、AIにお願いをする「プロンプト」も会話みたいな感じだから、「チャット」って言うのかと思うと思います。

でも、実際に使うと、チャットっていっぱいできますよね。
何度も質問を繰り返すたびに、新しいチャットができて、チャット履歴がもう管理できなくなるくらい。
「あれ?この質問のやりとり前にしたっけ?」とか。

チャットの準備と管理

チャットを準備するのは

まず、実際にAIを利用する際に、チャットを準備するのは誰でしょうか。

それは、あなた自身です

実際に使うとわかります。

AIの画面に入力画面がありますよね。
そこに「○○の利用方法について教えて」と入力すると、AIにもよりますが、たいてい画面のどこか(左側が多い)に、そのタイトルがついたチャットが作られます。「○○利用方法」とかいう感じで。

そして、そのチャットに「○○の利用方法」について、AIとやり取りをしていくことになります。

チャットを管理するのは

では、この管理は誰がするのでしょうか。

まずは「あなた自身」です

先ほどの例で言えば、「○○の利用方法」というチャットに入れていくという行為は、人間側がやらなくてはなりません。他の別の質問、例えば「××の調査をして」とか入れてしまうと、チャットの中身がぐちゃぐちゃになります。種類が全く違うのですから。

もうひとつ関係するものがあります。
それはAIの開発会社です

AIを利用している以上、そのAIの会社のデータベース上から回答を生成しています。
つまり、チャットを作るとAIは自分の会社のデータベースに接続をして、このユーザは「○○の利用方法」というチャットを作ったと登録をします。

そして、会社側はチャットのやり取りを保存し、必要に応じて過去の会話をAIの処理へ渡します。
その上でAIが回答を生成したりしているのです。

以下のような感じです。

チャットとタンクの関係

「チャット=タンク」である

ここまで来ると、前回のタンクの比喩とはなんなのかがわかるかと思います。

つまり、
チャットとは人間とAIのやりとりの入れ物
なのです。
よって、前回までのトークンで「タンク」と表現したのは、このことを言いたかったためです。

流れとしてはざっくりこうなります。

人間がプロンプトを、チャットを利用してAIに投げ、AIがトークンに分ける。
そしてAIはそのトークンで理解した情報を元に、データベースの情報などを利用しながら、

回答を「生成」する。
そして、その生成結果を人間へ表示する。
さらにチャット履歴は会話として保存され、AIが処理する際にトークンとして扱われる。


まさに、「タンク」にやり取りと言う「トークン」という水が積み上がって行くような感じがしませんか?

整理すると

もう一度整理すると、
このチャット(タンク)の管理は、まず人間が主体です。
新しく準備すること、用途を決めること、何を入れるかを選ぶことは、使う側が行います。

一方で、その会話の履歴(タンク)はAIサービス側に保存され、必要に応じて読み出せるよう管理されています。

実際にチャットを利用する

事例で考える

ここまで来たら、事例の続きを用いながら、話を進めていきましょう。

まず、自分が利用しているA社のAI用にこのタンクをひとつ準備しました。
そして、このタンクは今のところAIに聞くのは料理のレシピのことしかないので、レシピ用としました。

そういうことで、レシピのやり取りをどんどん入れていきます。要はやり取りのターンが増えていきます。
でも、前回少し触れた、レシピの溢れもまだないようです。

そしてレシピのやりとりを入れればいいと決めたので、シチューのレシピもカレーのレシピも肉じゃがのレシピなどさまざま。

すると、そのうち不都合なことが起きました。

レシピの質問が増えていくたび、なにか変な回答が増えたのです。
なぜかシチューのレシピに隠し味は?ときいたら、「ビターチョコを入れるといいです」とか。
それってカレーじゃないの?

またあるときには、カレーに合う、何か目新しい具材は?と聞いたら、「さやえんどうです」とか。
それって明らかに肉じゃがじゃないとか。


なぜ、このような不都合が起きてしまったのでしょう。

ヒントは、「いろいろなレシピを入れた」です。


ぜひ、次回の記事でお目にかかりましょう。