コンテキストウィンドウとは何ですか?

AIが1回の応答で参照できる情報量の上限です。Anthropicの公式ドキュメントでは「応答を生成するときに参照できるすべてのテキスト」と定義されており、容量はモデルによって20万〜100万トークン程度です。

コンテキストが大きいモデルほど賢いのですか?

そうとは限りません。長い入力の中間にある情報の利用が苦手になるという研究(Lost in the Middle)があり、Anthropicの公式ドキュメントも、トークン数が増えるほど精度と想起が落ちる「コンテキストの劣化(context rot)」を明記しています。

コンテキストの上限を超えるとどうなりますか?

APIでは入力だけで上限を超えるとエラーが返ります。チャット型のサービスでは、古いやり取りを外す方式や、それまでの会話を要約して続ける方式(コンパクション)で会話を継続する仕組みが使われています。

AIでよく聞く「コンテキスト」とは何か:机の広さで理解する

ChatGPTやClaudeを使っていると、「コンテキストの上限に近づいています」といった表示に出くわします。長い会話の終盤で、AIが序盤に決めたはずのことを忘れてしまった経験がある人も多いはずです。この「コンテキスト」、なんとなく「文脈のことだろう」と流してきましたが、上限があったり忘れたりするのは、日本語の「文脈」の感覚とは少し違います。正体を公式資料から確かめてみました。

コンテキストとは、AIが応答をつくるときに参照できる情報の全体のことで、その上限をコンテキストウィンドウと呼びます。

もともとは「織り合わせる」ということば

先に、ことばの側から。語源辞典によれば、contextはラテン語のcontexere(織り合わせる)に由来し、com(共に)とtexere(織る)からできています※1。英語では15世紀から使われ、当初は「作品や文章の全体」を指し、1560年代に現在の「引用箇所の前後のつながり」、つまり文脈の意味になりました※1。

ことばとことばが織り合わさって意味をつくる、という比喩が最初からあったわけです。AI用語のコンテキストも、この「発言の意味を決める周辺情報」という感覚の延長線上にあります。ただしAIの世界では、これがかなり物理的な意味を持ちます。

AIの「作業机」:コンテキストウィンドウ

Anthropicの公式ドキュメントは、コンテキストウィンドウを「言語モデルが応答を生成するときに参照できるすべてのテキスト(生成する応答自体も含む)」と定義しています。学習に使われた膨大なデータとは別物で、モデルの「作業記憶(working memory)」にあたる、という説明です※2。

筆者なりにたとえるなら、作業机の広さです。AIは机の上に載っているものだけを見て仕事をします。机に載るのは、会話の文面だけではありません※2。

机に載るもの	例
システムプロンプト	AIへの基本指示
会話の履歴	これまでのやり取りすべて
ツールの結果	検索結果や読み込んだファイル
画像や文書	添付したPDFなど
生成中の応答	AI自身の出力(思考の過程も含む)

机の広さはトークンという単位で数えます。トークンはことばを細かく刻んだ断片のことで、机の容量はモデルによって20万〜100万トークン程度です※2。上限を超えるとどうなるか。APIでは入力だけで超えるとエラーが返り、チャット型のサービスでは古いやり取りから外していく方式や、会話を要約して続ける方式(コンパクション)が使われます※2。長い会話でAIが序盤を忘れるのは、記憶力の衰えではなく、机から降ろされたか要約されて細部が落ちたから、というのが実態に近い説明です。

「机は広いほど良い」とは限らない

では机が100万トークンあれば安心かというと、そう単純ではありませんでした。ここが今回いちばん意外だったところです。

2023年の研究「Lost in the Middle」(スタンフォード大学などの研究チーム、学術誌TACL採録)は、言語モデルが長い入力をどう使うかを検証し、重要な情報が入力の冒頭か末尾にあるときは成績が高く、中間にあると顕著に落ちることを示しました※3。グラフにするとU字型になる、つまり真ん中が谷になるという結果です※3。

モデルを提供する側も、これを公式に認めています。Anthropicのドキュメントには、トークン数が増えるほど精度と想起が落ちる現象が「コンテキストの劣化(context rot)」という名前で明記されており※2、同社の技術ブログはコンテキストを「限界効用が逓減する有限資源」として扱うべきだと述べています※4。広い机は多くを載せられますが、載せるほど1つ1つへの注意は薄くなる。人間の机と同じことが起きているようです。

だから「何を机に載せるか」が技術になった

こうなると、腕の見せどころは机を広げることではなく、載せるものを選ぶことに移ります。Anthropicは2025年9月の技術記事で、これをコンテキストエンジニアリングと呼び、「推論のときに最適なトークンの組を選び、保ち続けるための戦略群」と定義しました※4。指示の書き方を工夫するプロンプトエンジニアリングの、次の段階という位置づけです※4。

たいそうな名前ですが、やっていることは人間の会議の準備に似ています。関係資料を全部持ち込むより、論点1枚にまとめたほうが議論の質は上がる。過去の経緯は議事録の要約で共有し、原本は必要なときだけ開く。AIに対しても同じ工夫が要る、というだけの話でした。専門用語の皮をむくと、だいたい常識が出てきます。

調べても分からなかったこと

AI・自然言語処理の分野で「コンテキスト」がいつから現在の意味で使われ始めたのか。文脈を扱う研究自体は古くからありますが、「この時点から」と言える起点を示す資料には届きませんでした。
日本語のテキストが1トークン何文字にあたるのかの正確な換算。モデル(トークナイザー)ごとに異なるため、公式の一律の数字は見つかりませんでした。

まとめ:忘れるのは、机が狭いから

整理すると、こうなります。

contextの原義は「織り合わせる」。文脈の意味が先にあり、AI用語はその延長です※1
AIのコンテキストは「応答時に参照できる情報の全体」で、上限(コンテキストウィンドウ)がある作業記憶です※2
机は広ければ良いわけではなく、長い入力の真ん中は取りこぼされやすい※3。提供元も「劣化」を公式に認めています※2※4
だから何を載せるかを設計するコンテキストエンジニアリングが生まれました※4

長い会話でAIが物忘れをしたように見えたら、それは机の端から書類が落ちた合図です。新しい会話を始めて要点だけ渡し直すのが、当面いちばん確実な付き合い方だと筆者は思っています。人間相手なら「前に言いましたよね」は禁句ですが、AI相手なら遠慮なく言い直してあげてください。

参考文献・出典

※1 : ｢Context - Etymology, Origin & Meaning｣｜Online Etymology Dictionary https://www.etymonline.com/word/context

※2 : ｢Context windows｣｜Anthropic(Claude Developer Platform) https://platform.claude.com/docs/en/build-with-claude/context-windows

※3 : ｢Lost in the Middle: How Language Models Use Long Contexts｣｜arXiv(Nelson F. Liu et al.) https://arxiv.org/abs/2307.03172

※4 : ｢Effective context engineering for AI agents｣｜Anthropic https://www.anthropic.com/engineering/effective-context-engineering-for-ai-agents