"dots.ocr-1.8B-Q8_0.gguf" 这种模型文件怎么用python调用？

[nissansz]

"dots.ocr-1.8B-Q8_0.gguf" 这种模型文件怎么用python调用？

[hzkitty]

llama-cpp-python
不应该是去dots.ocr仓库问吗

[nissansz]

是这里的，作者编译的win11版本有授权期限，而且json没有全部导出选项，https://github.com/jason-ni/app.dots.ocr.runner。
想看看有没有办法用python直接调用模型