Что нужно знать?

Прежде чем приступить к работе, нужно объяснить такие понятия как токены и генерации. Токен — это единица измерения, которую использует для подсчета стоимости чат. Он отличается тем, что учитывает не слова и не символы, а лексемы. Количество лексем в слове рассчитывается алгоритмами ChatGPT, исходя из различных параметров и его нельзя точно высчитать. Чтобы проще было вести учет, мы используем в обработке генерации, которые состоят из токенов и которые учитываются при работе с чатом. Одна генерация — это один запрос к ChatGPT. Причем запрос должен быть успешным. Т.е. мы посылаем запрос ChatGPT и ChatGPT дает нам ответ. Это пример одного запроса.

Автор: Апанасенко Михаил