Руководство по неограниченным токенам и использованию ИИ

Что такое неограниченные токены ИИ?

Неограниченные токены ИИ относятся к модели биллинга, где вы платите только за обработанный текст, а не арендуете доступ на фиксированный период. Этот подход устраняет ежемесячные абонентские платежи и гарантирует, что вы никогда не платите за время простоя. Вы можете отправлять столько запросов, сколько позволяют ваши ограничения скорости, и ваш аккаунт заряжается строго за использованные входные и выходные токены. Эта модель особенно полезна для разработчиков, запускающих агентов с переменными рабочими нагрузками, так как затраты напрямую масштабируются в зависимости от использования.

В отличие от традиционных платформ, которые ограничивают ваш доступ или замедляют работу после определённого количества дней, эта система обеспечивает непрерывную работу. Термин «неограниченный» здесь описывает отсутствие жёстких ограничений на количество запросов при наличии достаточного предоплаченного баланса. Вы контролируете объём, управляя своим балансом, а не ожидая ежемесячного сброса.

Как мы рассчитываем использование токенов

Использование токенов рассчитывается на основе точного количества токенов, отправленных в вашем промпте, и токенов, сгенерированных в ответе. Один токен обычно соответствует примерно четырем символам английского текста. Вы можете увидеть количество токенов в заголовках ответа или в последнем чанке стримингового ответа. Эта прозрачность позволяет точно контролировать расходы, не гадая, сколько будет стоить сложный запрос.

Система учитывает каждый токен, включая системные инструкции, историю разговора и финальный вывод. Если вы отправляете большое окно контекста, вы платите за всё. Ошибки не потребляют токены, а отказы на основе политик контента бесплатны. Это гарантирует, что вы платите только за успешные и пригодные для использования выводы.

Контекстное окно: 100,000 токенов

Модель поддерживает контекстное окно объёмом 100 000 токенов, которое включает как промпт, так и завершение. Это большое окно позволяет передавать обширную документацию, кодовые базы или длинные истории диалогов в одном запросе. Оно идеально подходит для задач, таких как суммирование больших документов или поддержание долгосрочной памяти в ИИ-агентах.

Однако большее окно контекста не означает неограниченное бесплатное использование. Вы все равно платите за каждый токен в этом окне. Если вы отправите промпт на 90,000 токенов, вы будете оплачены за эти 90,000 токенов плюс токены вывода. Лимит в 100,000 токенов — это жесткое ограничение для одного запроса, обеспечивающее стабильную производительность и предсказуемую задержку.

Лимиты максимального вывода на запрос

Каждый запрос может сгенерировать максимум 16,000 токенов вывода. Если вы не укажете значение max_tokens, лимит по умолчанию составляет 2,048 токенов. Этот лимит относится к завершению, сгенерированному моделью, а не к общему контекстному окну. Вы можете настроить параметр max_tokens в своих API-запросах, чтобы контролировать длину ответа.

Для задач, требующих более длинных выходных данных, может потребоваться реализовать логику разделения ответа или продолжения генерации. API возвращает объект token_usage в ответе, позволяя отслеживать количество сгенерированных токенов. Это помогает оставаться в рамках бюджета и планировать задачи по обработке больших данных.

Ценообразование за миллион токенов

Структура ценообразования проста и прозрачна: $0.15 за 1 миллион входных токенов и $0.50 за 1 миллион выходных токенов. Вы платите только за фактически использованные токены, а ошибки бесплатны. Это делает использование экономически эффективным при больших объемах, так как вы тратите средства только при получении результата.

Предоплаченная модель означает, что вы должны пополнить счет, прежде чем сможете делать запросы. Получив кредит, вы можете использовать его неограниченно долго. Кредиты не истекают, поэтому вы можете пополнять их, когда цены благоприятны или когда у вас есть крупный проект. Эта гибкость позволяет эффективно управлять денежным потоком, не беспокоясь о ежемесячных счетах.

Пополнения крипто-кредитов и бонусы

Пополнения производятся исключительно криптовалютой, а именно USDT в сети TRC20 или USDC в сети Base. Вы можете пополнить любую целую сумму от $20 до $500 за транзакцию. Система автоматически зачисляет средства на ваш аккаунт после подтверждения транзакции.

Бонусные кредиты начисляются на ваш аккаунт в зависимости от суммы пополнения. Пополнения на сумму от $50 получают бонус 5%. Пополнения на сумму от $100 получают бонус 10%, а пополнения на сумму от $200 получают бонус 15%. Этот бонус добавляется к вашему предоплаченному балансу, что эффективно снижает стоимость токена. Нет ограничений на количество пополнений, что позволяет накопить большой баланс для долгосрочных проектов.

Лимиты запросов на каждый ключ API

Каждый API-ключ подвержен ограничению скорости: 300 запросов в минуту и 8 одновременных запросов. Это обеспечивает справедливое использование и предотвращает монополизацию ресурсов одним аккаунтом. Если вы превысите эти лимиты, вы получите ошибку 429 Too Many Requests. Вы можете реализовать экспоненциальное замедление с повторными попытками в коде клиента для корректной обработки этих ошибок.

Лимит в 8 МБ на тело запроса предотвращает перегрузку системы чрезмерно большими полезными нагрузками. Если вам нужны более высокие лимиты для конкретных сценариев использования, вы можете обратиться в службу поддержки. На один аккаунт в один момент времени действует только один активный API-ключ. Генерация нового ключа заменяет старый, поэтому вам следует обновить свои приложения соответствующим образом.

Возвраты и истечение срока действия кредита

Предоплаченный кредит не истекает, поэтому вы можете использовать его, когда будете готовы. Если вы допустите ошибку, например, двойное списание, вы можете запросить возврат через страницу поддержки. Кредит не возвращается автоматически, поэтому вам необходимо инициировать процесс вручную. Эта политика гарантирует, что ваш баланс остается доступным для будущего использования независимо от того, сколько времени прошло.

Пробный кредит в размере $0.50 действителен в течение 7 дней и не подлежит возврату. Он предназначен для того, чтобы вы могли протестировать API, не рискуя собственными средствами. По окончании пробного периода кредит истекает, и вам необходимо пополнить баланс, чтобы продолжить использование сервиса.