我们从2011年坚守至今,只想做纯粹的技术论坛,请不要发布和技术无关的话题。  本站有两万多份高大上的PCB和原理图下载,每日更新中,欢迎常回来看看

 找回密码
 立即注册
搜索
查看: 580|回复: 0

[业界/制造] Ollama不支持AMD显卡?那是你用错了!

[复制链接]
  • 打卡等级:以坛为家II
  • 打卡总天数:198
  • 打卡月天数:0
  • 打卡总奖励:714
  • 最近打卡:2025-11-21 20:33:51

1940

主题

405

回帖

1712

积分

二级逆天

积分
1712
发表于 2025-7-1 23:54 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区

您需要 登录 才可以下载或查看,没有账号?立即注册

×
本帖最后由 hdy 于 2025-7-1 23:55 编辑

0

引言
大家好,我是犬余,Ollama已经用了很长时间了,之前在公司电脑跑deepseek-r1:7b的时候就慢得一批,扔出去一个问题出去上个厕所回来还在思考,不过也能理解, 毕竟公司电脑只有一块集成显卡,配置也不高。不过后来回家用自己的笔记本跑的时候还是一样的慢就忍不了了,打开任务管理器一看,CPU和内存都快跑满了,GPU还在2%左右的占用率,查了一下资料,原来是官网直接下载的windows版的Ollama不支持我的AMD显卡,于是,经过多方查找资料,一通操作之后,终于还是让我的AMD显卡跑起来了ollama。下面,我就把方法贴在下面,A卡的兄弟们速速收藏好!
1

查看GPU类型
查看ollama的server.log日志文件,可以看到里面有这样一段(这一步犬余自己忘记截图了,借用一下网上找到的其他人的截图): 235439d0e98053.png
这行日志说明了当前版本的ollama支持的gpu类型(supported types),以及当前的gpu类型(gpu_type),这里可以发现自己的gpu类型确实不在当前版本的支持列表里。
2

卸载旧Ollama要想安装新的Ollama,当然要先卸载原来的Ollama,至于如何卸载,想必不用犬余再赘述了,这里直接跳过,进入下一步骤。
3

下载AMD版Ollama复制如下地址并访问:

https://github.com/likelovewant/ollama-for-amd/releases
进入之后可以看到如下页面:
23543925261b17.png
首先是AMD版本Ollama的安装包,大家可以自行选择下载解压版或者是安装版,解压版顾名思义,解压即用,不用安装,安装版则是需要安装一下,而且默认是安装在C盘的,不过也可以通过参数自定义安装目录,自定义安装目录这方面我放在文末另外说。
下载并安装(解压)完成后,根据上一步在日志中看到的我们自己的gpu类型,选择ROCmLibs for 6.2.4或者ROCmLibs for 5.7并点击进入(犬余的是gfx1032,所以选择的是ROCmLibs for 6.2.4),进入之后选择gpu类型对应的具体压缩包下载:
235440a522dacd.png
下载并解压后,用解压出来的文件里的rocblas.dll文件将Ollama安装目录下的\lib\ollama\rocm\rocblas.dll文件替换掉,再用解压出来的文件里的library文件夹将Ollama安装目录下的\lib\ollama\rocm\rocblas\library文件夹替换掉。
4

启动并验证
经过上述步骤处理后,启动我们的ollama,可以看到之前的amdgpu is not supported的日志已经没有了,而是出现了下面这种日志,这样就表示已经适配完成了: 2354401e7094b7.png
适配完成后,重新下载大模型,这里由于deepseek-r1:7b不支持MCP调用,所以犬余选择了qwen3:8b来代替:
2354406673c023.png
最后,让它给我们写一篇文章:
23544173527e0f.png
可以看到,GPU已经完全利用起来了,并且输出速度也有了明显提升:
23544173a1c126.png
5

附加题
1:Ollama默认安装到C盘,如何自定义安装位置?    答:在安装Ollama时,不要直接点击安装文件,而是进入cmd命令行,通过指定DIR参数的方式修改安装目录,完整命令参考如下:

OllamaSetup.exe /DIR=D:\Program\Ollama
235441ceaef9b6.png
2354421417b5be.png
2:我的Ollama已经安装到其他盘下了,为什么我通过Ollama下载安装的大模型还是在C盘?    答:Ollama默认的模型下载地址为C:\Users\{用户名}\AppData\Local\Ollama,想要修改模型下载地址,需要新建环境变量OLLAMA_MODELS=你想要放置模型的文件夹,如:
235442317fa6ad.png
2354426616f6d6.png
235442e713c150.png
3. 我在下载模型时报出如下错误:

Error: pull model manifest: open C:\Users\18676\.ollama\id_ed25519: The system cannot find the path specified.    答:犬余遇到这种错误时,是由于在下载模型时手动删除了C:\Users\18676(用户名)\.ollama文件夹,导致中断重新下载时报了如上错误,如果遇到以上类似错误,可以停止ollama服务,删除C:\Users\18676(用户名)\.ollama文件夹后重启ollama再试。(这个文件夹似乎无法移动位置,里面的文件几乎不占什么空间,大家也没必要动他,就放在那也不占C盘什么空间)


您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Copyright ©2011-2024 NTpcb.com All Right Reserved.  Powered by Discuz! (NTpcb)

本站信息均由会员发表,不代表NTpcb立场,如侵犯了您的权利请举报投诉

本站所有资料仅限参考学习交流,PCB原理图源码等所有资料不保证准确没问题,请不要用作生产。否则后果自负。

闽公网安备35062302000276号 | 闽ICP备2024076463号-1 | 论坛技术支持QQ群171867948 | 论坛问题,充值问题请联系QQ1308068381

平平安安
TOP
快速回复 返回顶部 返回列表