from llama_index.llms.openai.utils import ALL_AVAILABLE_MODELS, CHAT_MODELS
MY_MODELS: Dict[str, int] = {
"qwen-turbo-0624": 32768,
"llama3-70b-8192": 8192,
ALL_AVAILABLE_MODELS.update(MY_MODELS)
# 不加入这个字典,会导致它采用Completion而不是Chat Completion接口,Qwen不兼容Completion兼容。
CHAT_MODELS.update(MY_MODELS)