这个LLM只能用qwen-plus这一个模型吗？

[Sdreamery]

整了一下午了，一直报错500，换各种模型都不行，难道只能用阿里官方的qwen-plus吗，其他的GLM、Kimi、Minitax、ChatGPT，连Qwen3也不行吗？

[dosubot]

这是一个已知问题！根据 Issue #329 和 Issue #271 的讨论：

问题原因： MiroFish 的 chat_json() 方法强制使用 response_format={"type": "json_object"} 参数，但 GLM、Kimi、Minitax、ChatGPT、Qwen3 等模型不完全支持此参数，导致 JSON 解析失败返回 500 错误。

解决方案：

1. 使用官方支持的模型 - MiroFish 官方仅支持和测试过阿里百炼的 qwen-plus，这是最可靠的选择

2. 检查 LLM_BASE_URL 配置 - 确保精确以 /v1 结尾，例如：

   • 阿里百炼：https://dashscope.aliyuncs.com/compatible-mode/v1

3. 应用社区修复 - PR #186 添加了回退重试逻辑，失败后会不带 response_format 参数重试

4. 尝试 DeepSeek - 社区反馈 DeepSeek 的 OpenAI 兼容性较好

5. 重新构建镜像 - 运行 docker compose up --build 确保获取最新修复

简而言之：不是只能用 qwen-plus，但 qwen-plus 是唯一官方测试过的模型。其他模型理论上兼容 OpenAI 格式，但可能会遇到 500 错误。

To reply, just mention @dosu.

---

^{How did I do? Good | Irrelevant | Incorrect | Verbose | Hallucination | Report 🐛 | Other}

  

[chenzhuup]

请问如何让Mirofish使用ollama本地部署的qwen3.5-35b-a3b，我部署好LLM，按常规的ollama地址：http://ip:port/v1，会报错500，找问题后，貌似是Ollama默认不⽀持response_format={"type":"json_object"}，尝试写python来洗码，也不行。
所以想请教你是怎么解决的

重点就是兼容性导致的