AIに資料を渡して、案を作り、直してもらう。仕事ではこんな往復がよくあります。「もう少し短く」としか入力していないのに、長い会話では処理が重くなったり、APIの利用量が増えたりすることがあります。
理由を理解する鍵は、今回打ち込んだ一文と、AIが今回の回答に使う入力を分けることです。過去の文章を今回も読み込む仕組みなら、短い指示でも入力は短いとは限りません。ただし、アプリが履歴をどう選び、要約するかは製品ごとに異なります。
この記事でわかること
- 入力・出力・履歴は、何が違うのか
- 履歴を繰り返し渡すと利用量が増える理由
- 仕事の区切りで会話を整理する方法
「修正して」の前には、修正対象がある
たとえば、研修の案内メールを作る場面を考えます。最初に研修の目的、日程、対象者を渡して、AIがメール案を返します。次に「もっと親しみやすく」と頼んだとき、直してほしいのは先ほどのメールです。
AIがその案を今回の入力として受け取れば、過去の回答も読む対象になります。前の回答は、その時点では出力ですが、次の処理では入力の一部になり得るわけです。
OpenAIの会話を継続するための資料では、過去のメッセージを含めて会話を渡す方法や、応答の識別子で継続する方法が説明されています。会話をつなぐ方法が簡単になっても、過去の入力が無料になるわけではありません。
入力・出力・履歴を分けて考える
入力は、その回の処理でAIが受け取る情報です。出力は、その回で新しく生成する情報です。履歴は、これまでの質問や回答の記録です。
履歴は独立した第三の請求項目というより、今回の処理に含まれれば入力として関係する、と考えると理解しやすくなります。ただし、キャッシュなどの料金区分が別に設けられるAPIもあります。
会話画面に残っている記録と、モデルがその回で実際に扱う情報も同じとは限りません。アプリが古い内容を要約したり、必要な部分を選んだりする可能性があります。「画面に残っているから、一字一句を必ず読んでいる」とは考えないようにしましょう。
3往復の例で見ると、増えるものがわかる
ここからは、仕組みを理解するための仮の数字です。特定サービスの実測値ではありません。APIに毎回すべての履歴を送り、追加の内部指示やキャッシュ、推論処理は考えないとします。
- 最初の依頼が500トークン、回答が300トークン。入力は500、出力は300です。
- 次の依頼が200トークン。前の依頼500と回答300も渡すので、今回の入力は1,000です。新しい回答は400とします。
- 最後の依頼が100トークン。ここまでの履歴1,400も渡すので、今回の入力は1,500です。回答は200とします。
3回の入力を合計すると3,000、出力は900です。一方、最後に残る会話の内容は合計1,700トークンです。利用量の累計と、最後の履歴の長さが一致しないのは、同じ情報を複数回入力として処理しているためです。
これを月額チャットアプリの請求に、そのまま当てはめることはできません。ここで示しているのは、履歴を毎回渡すAPIの計算の考え方です。
長い会話では、料金だけでなく前提の整理も大切
同じ会話で企画案、メール、予算、別案件の相談を続けていると、人間側も「どの条件が今の話に必要なのか」を整理しにくくなります。
たとえば、午前中は新人向け研修、午後は管理職向け研修を相談した場合、対象者の違いを明示しなければ、回答の前提を確認する手間が増えます。長い会話だから必ず誤る、という意味ではありません。話題が変わったときは、対象や制約を改めて示すほうが、後から回答を確認しやすくなります。
また、長さの制限と、一定期間に使える量の制限も別です。Claudeの公式説明は、ひとつの会話の長さと、複数の会話を通じた利用量の上限を区別しています。新しい会話を始めても、アカウントの利用上限がリセットされるわけではありません。
会話を分けるなら、引き継ぎメモを作る
一つの仕事が一区切りついたら、必要な前提だけを新しい会話へ引き継ぐ方法があります。単に「続きです」と書くより、次の4点を短くまとめると使いやすくなります。
- 目的:何を完成させたいか
- 確定事項:日程、対象者、合意済みの条件
- 未決事項:まだ検討していること
- 次の作業:今からAIに頼みたいこと
研修案内なら、「新人向け、10月中旬、オンライン開催。日程と対象者は確定。本文の言い回しは未確定。参加を促すメール案を300文字程度で作る」のような引き継ぎです。これは書き方の例であり、実際の研修情報ではありません。
AIに引き継ぎメモを作らせる場合も、日付や数字、決定事項は元の記録と照合してください。要約の段階で必要な条件が落ちると、新しい会話に移った後の修正が増えてしまいます。
キャッシュがあっても、履歴が消えるわけではない
APIによっては、条件を満たした入力にキャッシュ料金が適用されることがあります。OpenAIのプロンプトキャッシュの資料も、繰り返す入力のコストや処理時間に関わる仕組みを説明しています。
ただし、安く処理できることと、入力がなくなることは別です。コンテキストの長さや、何を読み込むかは引き続き確認が必要です。また、すべてのサービスや入力に同じ割引が適用されるわけでもありません。
普段のチャット利用では、キャッシュを意識して文章を不自然に固定するより、案件を分けることや不要な添付を避けることから始めるほうが取り組みやすいでしょう。
今日できるのは、終わった話題を切り分けること
長くなった会話をひとつ開き、今の作業に必要な前提を4項目で整理してみてください。別案件が混ざっているなら、必要な引き継ぎを確認したうえで会話を分けます。目的は、単に文字を減らすことではなく、何を材料に回答してもらうかを明確にすることです。
AIの回答を採用する前の確認方法は、ChatGPTの回答を仕事で使う前に確認する4つの手順も参考にしてください。
公式資料の確認日:2026年10月4日。処理方法・履歴管理・料金の扱いはサービスやモデルによって異なります。
