На Реддите смешная сплетня - Ultrafast режим для Astra 6 показывает на OpenRouter скорость 70 кадров в секунду при цене 300 долларов за миллион токенов.
Я добавлю, что картинка была взята с OpenRouter, но в настоящий момент там для Ultrafast режима вообще не выводится скорость. Технический глюк или 0 потребителей, чтобы сравнить скорость?
70 токенов в секунду - это в общем-то нормальная средняя скорость для многих провайдеров. DeepSeek 4.1 Flash от провайдера DeepSeek стреляет в мир по 100 токенов в секунду - и я всем советую, кто пользуется именно этой моделью, не заниматься ерундой и настроить на опенроутере именно провайдера Deepseek. Ну разве что вам нужен дешевый slow mode для каких-то ботов - тогда да, можно брать у других провайдеров.
Opus 5.5 уже выдает более 60 кадров в секунду при стандартной цене в 20 долларов. Я уже говорил, что сейчас там реально медовый месяц - тяжело даже трогать модели от OpenAi ниже Астры после Opus 5.5
Комменты
- TPS в OpenRouter несколько нестабильны по сравнению с прямым доступом через API OpenAI
- для Fable требуется примерно в 2-3 раза больше токенов при схожих рассуждениях/результатах, поэтому Astra в целом не намного медленнее.
Reddit - https://www.reddit.com/r/OpenAI/comments/1wut0bf/ultrafast_mode_for_astra_6_is_70tps_for_300m/