网页
资讯
视频
图片
知道
文库
贴吧
地图
采购
进入贴吧
全吧搜索
吧内搜索
搜贴
搜人
进吧
搜标签
日
一
二
三
四
五
六
签到排名:今日本吧第
个签到,
本吧因你更精彩,明天继续来努力!
本吧签到人数:0
一键签到
可签
7
级以上的吧
50
个
一键签到
本月漏签
0
次!
0
成为超级会员,赠送8张补签卡
如何使用?
点击日历上漏签日期,即可进行
补签
。
连续签到:
天 累计签到:
天
0
超级会员单次开通12个月以上,赠送连续签到卡3张
使用连续签到卡
06月04日
漏签
0
天
sillytavern吧
关注:
50,777
贴子:
190,769
看贴
图片
吧主推荐
游戏
1
2
下一页
尾页
60
回复贴,共
2
页
,跳到
页
确定
<返回sillytavern吧
>0< 加载中...
本地大模型
只看楼主
收藏
回复
贴吧用户_J5DXQbW
首句生成
4
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
各位大佬有用过本地模型的吗
昨天晚上想着搞一搞差点手机炸了,上下文吐字还不够角色卡设定直接奔溃了
送TA礼物
IP属地:湖北
来自
Android客户端
1楼
2026-05-28 08:41
回复
DU260501
角色设定
7
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
谁教你用本地大模型的。。还是手机端,害人不浅啊
IP属地:山东
来自
iPhone客户端
2楼
2026-05-28 08:44
回复(8)
收起回复
2026-06-04 05:28:42
广告
不感兴趣
开通SVIP免广告
狩猎觉醒
提示调优
6
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
角色扮演用本地部署模型?用个英伟达免费的step3.5flash都比这强太多,你这几b的模型还想咋样啊
。我9070xt,本地部署过14b的几个模型,对角色扮演来说完全没用。
IP属地:湖南
3楼
2026-05-28 08:59
回复(16)
收起回复
落衡666
模型初识
1
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
游戏本能上天吗?显存有超过24G了吗
IP属地:河南
来自
Android客户端
4楼
2026-05-28 09:05
回复(8)
收起回复
用户6769
提示越狱
10
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
手机部署本地模型???AI界迎来噩耗
IP属地:山东
来自
Android客户端
5楼
2026-05-28 10:24
回复
收起回复
-spirited-
角色设定
7
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
本地模型跑rp/写作只有Google在2026年4月最新推出的gemma4-26b-a4b和gemma4-31b这两个勉强能用,实际跑分和测试以及世界知识准确性在这参数量也是最强的,其他就不用看了。。。
IP属地:福建
来自
Android客户端
7楼
2026-05-28 10:36
回复
收起回复
魔王凯布利斯
模型初识
1
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
用5060跑过gemma4的量化模型,只能说勉强能聊但是搞瑟瑟不太行,并且token输出太慢了。
IP属地:江西
来自
Android客户端
8楼
2026-05-28 10:49
回复(1)
收起回复
RedRanger
模型初识
1
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
能部署好模型的设备价格拿去玩API至少够玩10年
IP属地:浙江
来自
iPhone客户端
9楼
2026-05-28 10:51
回复
收起回复
2026-06-04 05:22:42
广告
不感兴趣
开通SVIP免广告
马达加斯加黑商
看看插头
3
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
当然可以,有配置就行,起码对标台式机3090/4080这个配置,越高越好。适合拿来玩轻量卡/手枪卡,目前的本地模型能力就到这了。
IP属地:广东
来自
Android客户端
10楼
2026-05-28 10:54
回复
收起回复
卿如温
提示调优
6
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
楼上都好好劝你了,不知道在嘴硬啥。你本地部署花的钱够你正常玩到死了。有电脑就用电脑玩酒馆吧,用手机还是不太方便。
IP属地:美国
来自
Android客户端
11楼
2026-05-28 11:59
回复(3)
收起回复
爱烧烤的火龙
提示调优
6
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
得有多nc才会想到手机部署本地模型,哈哈哈,你有几百t内存么?
IP属地:广东
来自
iPhone客户端
12楼
2026-05-28 12:11
回复
收起回复
-eziohx
看看插头
3
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
在电脑上用llama server运行的话,可以在手机上使用,前提是要在同一个局域网内。
如果想要在其他网络下使用的话,要么你得有公网ip,要么就搞搞内网穿透,手机目前的性能还不足以跑大模型。
IP属地:福建
来自
Android客户端
13楼
2026-05-28 12:26
回复
收起回复
狐尾花一瓣
模型初识
1
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
本地部署模型相当于想靠买房来省租房的钱
你买不起房还想自己没建材手搓房子然后和租的一个生活质量吗
IP属地:湖南
来自
Android客户端
14楼
2026-05-28 13:07
回复
收起回复
FGVCDRT
角色设定
7
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
你是疯牛病610的1tb显存吗本地部署,知道能本地部署的卡一张多少钱吗
IP属地:福建
来自
Android客户端
15楼
2026-05-28 13:44
回复
收起回复
2026-06-04 05:16:42
广告
不感兴趣
开通SVIP免广告
灯笼黏菌
角色设定
7
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
手机端部署你真TM是个狠人
IP属地:山东
来自
Android客户端
16楼
2026-05-28 15:07
回复
收起回复
登录百度账号
扫二维码下载贴吧客户端
下载贴吧APP
看高清直播、视频!
贴吧热议榜
1
印度高温或致3400人死亡
1833870
2
燕云偷改?NPC付鹏举复活
1708767
3
Bin黑脸拒绝粉丝击掌
1537116
4
新规落地,杭州白天禁遛狗
1237140
5
LPL没钱?大黄口嗨挨罚
1232062
6
AI脸泛滥成灾,建模师没活了
986675
7
泄愤!BLG零封速通EDG
835728
8
鸟吧删帖事件引吧友众怒
723902
9
咖啡店乱出警,塔2玩家遭驱逐
699248
10
发商单洗白?洛手操作引群嘲
627564
贴吧页面意见反馈
违规贴吧举报反馈通道
贴吧违规信息处理公示