希望能够支持MacOS

[kk580kk]

  File "/opt/homebrew/anaconda3/envs/ChatGLM-webui/lib/python3.10/site-packages/cpm_kernels/library/base.py", line 59, in __init__
    raise RuntimeError("Unknown platform: %s" % sys.platform)
RuntimeError: Unknown platform: darwin

使用MacOS执行cpm kernels，会遇到不支持的系统的报错，希望能够支持MacOS M1芯片

[kk580kk]

I found the solution :
zai-org/ChatGLM-6B#6 (comment)

[kk580kk]

麻烦看一看这个链接，可以解决你的问题。
zai-org/ChatGLM-6B#6 (comment)

[laoba25]

zai-org/ChatGLM-6B#6 (comment)

这个是 6B 模型+CPU的运行方法。Int4 的量化模型目前好像没有好方法运行在 Mac 上。除非 cpm_kernel 能直接支持。