当前位置：首页 > news >正文

Agent学习——小米MiMo-V2-Flash使用方法

news 2026/6/28 12:02:35

一、MiMo-V2-Flash的亮点
①API 定价为输入$0.1/M tokens，输出$0.3/M tokens，且目前限时免费，推理成本仅为Claude 4.5 Sonnet的2.5%。
②在多个Agent测评基准中保持全球开源模型Top 2，代码能力强。
③使用场景多为智能通场景设计，支持深度思考和联网搜索。
④架构上使用混合注意力机制和多层MTP进行推理加速。
⑤模型权重和推理代码使用的是MIT协议，适用商业场景。

二、技术剖析
①窗口大小为128
②原生支持32K上下文，外扩技术支持可达256K的上下文处理
③多层MIT推理加速，并行效率倍增

三、在线体验
①体验链接：https://aistudio.xiaomimimo.com
②API地址（限时免费哦！各位白嫖党抓紧机会！！！）：https://platform.xiaomimimo.com/
③收费定价：输入 $0.1/M tokens，输出 $0.3/M tokens
③本地部署：
a.模型权重：https://hf.co/XiaomiMiMo/MiMo-V2-Flash
b.GitHub仓库：https://github.com/xiaomimimo/MiMo-V2-Flash

四、模型效果
从公布的基准测试图中看，性能上有了些许提升，主要的提升应该还是在Agent场景、推理效率的提升和价格吧！但是目前架不住他免费呀！！！

五、调用方法

由于MiMo-V2-Flash 已封装成 OpenAI-Compatible HTTP 服务，启动后直接用OpenAI SDK 或curl -i http://localhost:9001/v1/chat/completions，模型路径、推理参数全部在启动命令里一次性配好，无需再写 .from_pretrained()。以下是四种不同场景的调用方式：

# ①启动服务 pip install sglang python3 -m sglang.launch_server \ --model-path XiaomiMiMo/MiMo-V2-Flash \ --served-model-name mimo-v2-flash \ --tp-size 8 --trust-remote-code \ --host 0.0.0.0 --port 9001 # ②API调用 from openai import OpenAI client = OpenAI(base_url="http://localhost:9001/v1", api_key="dummy") response = client.chat.completions.create( model="mimo-v2-flash", messages=[{"role": "user", "content": "Nice to meet you MiMo"}], max_tokens=4096, temperature=0.8, top_p=0.95, stream=True, extra_body={"chat_template_kwargs": {"enable_thinking": True}} ) for chunk in response: print(chunk.choices[0].delta.content or "", end="") # ③curl方式 curl http://localhost:9001/v1/chat/completions \ -H "Content-Type: application/json" \ -d '{ "model": "mimo-v2-flash", "messages": [{"role": "user", "content": "Nice to meet you MiMo"}], "max_tokens": 4096, "temperature": 0.8, "top_p": 0.95, "stream": true, "chat_template_kwargs": {"enable_thinking": true} }' # ④JaveScript方式 const { OpenAI } = require('openai'); const client = new OpenAI({ baseURL: 'http://localhost:9001/v1', apiKey: 'dummy' }); const stream = await client.chat.completions.create({ model: 'mimo-v2-flash', messages: [{ role: 'user', content: 'Nice to meet you MiMo' }], max_tokens: 4096, temperature: 0.8, top_p: 0.95, stream: true, chat_template_kwargs: { enable_thinking: true } }); for await (const chunk of stream) { process.stdout.write(chunk.choices[0]?.delta?.content || ''); }

使用流程：启动服务一次 → 拿到 http://localhost:9001/v1 → 当成 OpenAI 接口用即可，模型、推理参数全部在启动命令里配置完成，无需再加载模型或写 .from_pretrained(