Токен

Единица текста, которой оперирует языковая модель; в токенах считаются объём и стоимость.

Токен — кусочек текста (часть слова, слово или символ), которым модель измеряет вход и выход. От числа токенов зависят лимиты контекста и стоимость запроса. Понимание токенов помогает оценивать бюджет на AI и проектировать эффективные промпты и пайплайны.