首页 > 教程攻略 > ai教程 >查看Ollama GPU资源使用情况的两种方法

查看Ollama GPU资源使用情况的两种方法

来源:互联网 时间:2026-06-02 16:09:02

运行本地大模型时,GPU内存监控是个容易被忽视但至关重要的问题。很多人跑着跑着发现显存报警,或者模型响应变慢,却不知道去哪里查。先分享一个实践经验——掌握几个小工具,就能把Ollama的资源占用情况看得明明白白。

? 今日知识点

  • 核心主题

    :Ollama GPU内存使用情况查看及监控方法

? 如何查看Ollama的GPU内存使用情况

方法1. 用 ollama ps 快速查看

先说说最直接的方法——用 ollama ps 命令,就能一眼看到当前模型在跑什么、占了多少资源:

# 查看当前运行的模型及资源使用情况
ollama ps

输出示例

关键字段说明

  • NAME

    :模型名称和版本
  • ID

    :模型ID
  • SIZE

    :模型文件大小,也就是模型权重的体积
  • PROCESSOR

    :当前共享GPU和专用GPU的使用百分比,其中CPU代表共享GPU
  • CONTEXT

    :模型上下文窗口占用的内存量
  • UNTIL

    :模型已经运行了多长时间

实用技巧

# 持续监控(每2秒刷新一次)
watch -n 2 ollama ps
# Windows PowerShell 等效命令(每2秒执行一次)
while ($true) { ollama ps; Start-Sleep 2 }

如果想实时监控,这个技巧很关键——用 watch 命令每2秒刷新一次,模型内存的波动就能看得一清二楚。

方法2. Windows下用任务管理器盯牢

对于Windows用户,图形界面会更直观一些。操作上不难:

  1. Ctrl + Shift + Esc 打开任务管理器
  2. 切换到「详细信息」选项卡
  3. 找到 ollama.exe 进程
  4. 右键点击标题行 →「选择列(S)」→ 把「GPU」相关的列全部显示出来

查看要点

  • GPU

    :显示进程的GPU使用率
  • 专用 GPU 内存

    :显存占用情况一目了然
  • 共享 GPU 内存

    :系统内存作为显存使用时的情况

下图展示了笔者环境中的情况:

除此之外,还可以在任务管理器的性能页面查看GPU的总体使用情况,具体如下图所示:

这两个方法结合起来,基本上就能把Ollama的内存消耗情况摸透了。命令行适合快速排查和脚本监控,图形界面则适合直观观察实时变化。根据实际需求灵活切换,效率会高不少。