Ollama 运行大模型占用 CPU 而不是 GPU,怎么办?

Ollama 本地运行大模型,如果 CPU 占用在 50% 以上,又占用了很多内存,GPU 占用却在 20% 左右,可以用命令

ollama ps

验证模型的处理器,如下图:

image.png

qwen3:8b 的 PROCESSOR 是 48%/52% CPU/GPU

可以尝试打开 Ollama 的 Settings,修改 Context Length 到合适的大小:

image.png

再看看 ollama ps 结果:

image.png

显示 100% GPU 就正常啦。

当然,你的输入输出的 token 不会超过该长度才行,不然可能会截断或报错,导致回答的准确率下降或执行失败。

xoyozo 2 小时前
转载请注明出处
可能相关的内容