首页 > 教程攻略 > ai教程 >Deepseek V4 Prefill-Decode分离测试1

Deepseek V4 Prefill-Decode分离测试1

来源:互联网 时间:2026-06-23 07:28:12

节点1和节点2已经成功用vLLM把Prefill服务拉起来了。

\

用curl测试了一下,响应正常。其实先把Prefill跑起来,即使没有Decode节点,也能独立运转。

不过今天进一步测试发现了一个关键问题——这两台机器实际上是在按照独立实例各自运行,根本没有形成集群。还是得一步步来,从简单到复杂。否则报错信息刷上几千条,根本没法排查。