使用vllm serve运行时报错

[alfiy]

报错信息如下：
ValueError: Loading moonshotai/Moonlight-16B-A3B-Instruct requires you to execute the configuration file in that repo on your local machine. Make sure you have read the code there to avoid malicious use, then set the option trust_remote_code=True to remove this error.

继续使用命令：vllm serve "moonshotai/Moonlight-16B-A3B-Instruct" trust_remote_code=True运行时出现如下报错：
INFO 04-14 13:59:19 [init.py:239] Automatically detected platform cuda.
usage: vllm [-h] [-v] {chat,complete,serve,bench} ...
vllm: error: unrecognized arguments: trust_remote_code=True

[tpoisonooo]

vllm serve --help 一下，感觉这个参数就没给对。

报错写 “_” ，实际好像用的是 ”-”

[tpoisonooo]

--trust-remote-code

[alfiy]

试过了也不行的，我抽时间再换台服务器测试，我这台服务器只有10G显存，使用vllm serve命令跑不起16B模型 @tpoisonooo