Контекстное окно простыми словами — 128K против 200K против 1M токенов

«Контекстное окно» — одна из самых часто упоминаемых характеристик в мире ИИ и при этом одна из наименее понятых. Модель с окном в 1M токенов звучит в восемь раз мощнее, чем модель на 128K. На практике разница тоньше. Вот что эти цифры значат на самом деле и когда большее окно действительно оправдывает себя.

Что такое контекстное окно на самом деле

Контекстное окно — это максимальное количество токенов, которое модель может удерживать одновременно. Важно: оно общее. В него входят системный промпт, вся история диалога, любые файлы или подгруженные документы, которые вы вставляете, а также ответ, который генерирует модель. Если вход заполнил всё окно, места на ответ не остаётся.

Один токен — это примерно 3–4 символа английского текста, то есть около 0,75 слова. Быстрые прикидки:

Это потолки, а не свободное место. Зарезервируйте несколько тысяч токенов под ответ и помните, что длинные истории диалога незаметно съедают бюджет на каждом ходу.

128K против 200K против 1M: когда что уместно

128K — это современный базовый уровень, которого хватает для подавляющего большинства задач: чат, черновики, краткое изложение отчёта, рефакторинг файла, ответы на вопросы по нескольким документам. Если ваша задача укладывается в несколько десятков страниц, 128K более чем достаточно — и обычно это дешевле и быстрее.

200K даёт запас на более длинные сессии — затяжные агентские прогоны кода, крупные диффы или анализ объёмного договора без агрессивного урезания. Скачок с 128K до 200K — это приращение, а не качественный скачок.

1M — это уже другая категория. Оно позволяет загрузить в один промпт целый репозиторий, полную стенограмму допроса или сотни страниц исследований и рассуждать сразу по всему массиву. Компромиссы реальны: растёт задержка, стоимость масштабируется вместе с токенами, и большинство моделей демонстрируют эффект «потерянного в середине» (lost in the middle), когда факты, зарытые в центре огромного промпта, получают меньше внимания, чем те, что в начале или в конце.

Больше — не всегда автоматически лучше

Большое окно не заменяет хороший поиск (retrieval). Запихнуть 900K токенов документов в контекст ради ответа на один вопрос — это медленно, дорого, и точность может упасть. Часто сфокусированный промпт на 128K с нужными 10 страницами обыгрывает промпт на 1M, в который засунули всё подряд. Используйте большое окно, когда важны связи по всему массиву — перекрёстные ссылки, глобальные рефакторинги, проверки консистентности по всему документу, — а не как свалку.

Практическое правило: выбирайте наименьшее окно, в которое с запасом помещается ваша реальная задача плюс место под ответ.

Меняйте окна, не меняя стек

У разных моделей разные лимиты, и заранее редко знаешь, какой подойдёт под задачу. В AnyModel каждая модель живёт за единым OpenAI-совместимым эндпоинтом, поэтому протестировать модель на 128K против модели на 1M — это поменять одну строку, идентификатор model, а не ваш SDK, ключи или base URL.

curl https://anymodel.org/v1/chat/completions \
  -H "Authorization: Bearer $ANYMODEL_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"gemini-2.5-pro","messages":[{"role":"user","content":"Summarize this repo."}]}'

Хотите для того же запроса окно поменьше и подешевле? Замените gemini-2.5-pro на идентификатор Claude, GPT, DeepSeek или Qwen и запустите снова. Один ключ открывает доступ к GPT, Claude, Gemini, DeepSeek, GLM, Kimi, Qwen и Grok — смотрите актуальное сравнение моделей, чтобы сопоставить размер окна с ценой.

Работаете в CLI? Подключение в одну строку:

bash <(curl -fsSL "https://anymodel.org/i?tool=codex") <YOUR_API_KEY>

(Используйте tool=claude для Claude Code. Для Cursor, Zed, Cline, Aider или Continue направьте OpenAI base URL на https://anymodel.org/v1 со своим ключом.)

Приватность на длинных промптах

Большой контекст часто означает вставку чувствительных материалов. В режиме Ghost Mode можно подключить ключи с нулевым хранением (zero-retention) — мы не сохраняем ни промпты, ни ответы, только счётчик токенов. Честная оговорка: провайдер модели всё равно получает ваш промпт, так что это не абсолютная приватность, но на нашей стороне ничего не остаётся.

Попробуйте

Начните бесплатно с 1 000 000 токенов или 6 000 000 после привязки Telegram — без банковской карты и подписки. Протестируйте модели на 128K, 200K и 1M бок о бок и дайте задаче самой выбрать окно. Создайте аккаунт и запустите свой первый промпт за минуту. Больше гайдов — в блоге.