ChatGPTを使っている途中で、
「この会話は長さの上限に到達していますが、新しいチャットを始めて会話を続けることができます。」 というメッセージが表示されて、突然続きを送れなくなってしまいました。
調べるたところ、これはバグではなくChatGPTなどのAIの「トークン数の上限」によって起きる正常な仕様とのことでした。
この記事ではその仕組みを解説したうえで、スムーズに続きを進めるための3つの方法をご紹介します。
「この会話は長さの上限に到達していますが、新しいチャットを始めて会話を続けることができます。」の意味
このメッセージが出る理由は、ChatGPTがやりとりの中で使える「トークン(文字や記号の単位)」の数に上限があるからです。トークンは、文章をAIが理解できるように細かく分けた単位のことです。
たとえばGPT-3.5-Turboでは、1回の会話で使える上限が約16,000トークン、GPT-4 Turboでは約128,000トークンに設定されています(出典:WIRED)
これを超えてしまうと、それ以上の情報を保持できなくなり、「この会話は長さの上限に到達しています〜」というメッセージが出てしまうというわけです。
どうしてChatGPTに上限があるの?
AIは会話のたびに、「どの単語がどの文脈で使われているか」を全部計算しています。この処理はトークンが多くなるほど大変になり、パソコンでもスマホでも限界があるので、ある程度のところで「もうこれ以上はムリ!」と制限をかけているんです。
つまり、メッセージが出るのは「計算量やメモリの限界を超えた」サイン。特に長い文章や複雑な指示を何往復も続けていると起こりやすいです。
(出典:arXiv「On the Computational Complexity of Self-Attention」)
対策①新しいチャットを始める
もっともシンプルな対処法は、「新しいチャットをスタートする」ことです。
やり方は以下の通り。
- 左側メニューの「新しいチャット」をクリック
- 前の話のテーマや要望を一言で伝える
- 続きの指示を送信!
この方法なら、トークンの使用量をリセットできるので、また最大限の長さでやりとりができます。
ただし、前の内容を引き継いでいない分、少しだけ手間がかかることもあります。
対策②前の内容をかんたんに要約して引き継ぐ
もっと丁寧に続きたい人には、「要約して文脈を引き継ぐ方法」がオススメ。
前回のやりとりの要点(たとえば目的・結論など)を3~5行でまとめて、新しいチャットの最初に以下のように入力します。
「以下は前回の対話の要約です。続きとしてこの内容をふまえて、〇〇について教えてください。」
この方法ならAI側もスムーズに続きを理解できますし、「この会話は長さの上限に到達しています〜」が出にくくなります。
対策③そもそもプロンプト(指示)を短く工夫する
よくあるのが、「1つのチャットで全部やろうとして、結果的に長くなってしまう」ケース。
以下のような工夫をすれば、トークン消費を減らして通知が出るのを防げます。
- 長い指示は分けて段階的に送る
- いらない挨拶や説明はなるべく削る
- 出力の形式(例:箇条書き、200文字以内など)を具体的に書く
こういった工夫をすると、結果的にAIの応答もわかりやすくなって一石二鳥です!
よくある誤解
以下のような勘違いをしている人も多いのですが、実はすべて誤解です!
- 無料プランだから出るわけではない
- 追加料金が発生することもありません
- 「エラー」ではなく、あくまで正常な通知
- 履歴を消しても、トークン数は変わらない
この通知が出ても焦らなくて大丈夫。ちゃんと対処すれば続きの会話も問題なく進められます。
もっと大きなデータを扱いたいときは?
たとえば長いPDFや大量のデータを扱いたいときは、次のような方法もあります。
- PDFを分割してアップロード
- AI APIで分割処理し、自分で統合
- ベクターデータベースやRAG(検索+生成)を使う
- トークン上限が大きいモデルを選ぶ(GPT-4 Turboなど)
うまく組み合わせれば、かなり大きな情報も扱えるようになります。
まとめ
「この会話は長さの上限に到達していますが、新しいチャットを始めて会話を続けることができます。」という通知は、ChatGPTをたくさん使っている証拠でもあります。
- 新しいチャットを始める
- 要約して文脈を引き継ぐ
- プロンプトを短く工夫する
この3つを覚えておけば、会話をスムーズに続けられるようになります。通知が出ても落ち着いて対策を試してみてください!
こちらの記事もおすすめ:初心者に最もおすすめできるChatGPT副業【始め方や注意点】