sillytavern吧 关注:50,777贴子:191,295

回复:本地大模型

只看楼主收藏回复

十年后应该可以


IP属地:广东来自Android客户端17楼2026-05-28 15:15
回复
    别炸我手机里


    IP属地:江苏来自Android客户端19楼2026-05-28 16:33
    回复
      2026-06-04 06:26:16
      广告
      不感兴趣
      开通SVIP免广告
      手机跑本地模型吗那很有生活了


      IP属地:四川来自iPhone客户端20楼2026-05-28 17:23
      回复
        狠人,手机上能部署个1B量化的算你牛


        IP属地:江苏来自iPhone客户端21楼2026-05-28 18:11
        回复
          手机端部署ai以为是贾维斯呢


          IP属地:湖北来自Android客户端22楼2026-05-28 21:12
          回复
            手机?本地化大模型?啊???


            IP属地:广西来自Android客户端23楼2026-05-28 22:04
            回复
              老弟你也是纯小白了,电脑本地部署生图模型就好,聊天模型要大量的内存或者显存,不然激活个十几b就是纯废物,本地部署能玩起码要等十年了


              IP属地:湖南来自Android客户端24楼2026-05-29 05:04
              回复
                个人电脑能部署下来的模型都是蒸馏再蒸馏的模型,把话说利索都费劲,真要弄一个高智商的模型你得有个七八位数。有这么多钱你直接花钱请人陪你真人过家家不比玩酒馆有意思?老老实实买api或者去社区蹬公益站好了。


                IP属地:广东来自Android客户端25楼2026-05-29 22:14
                回复
                  2026-06-04 06:20:16
                  广告
                  不感兴趣
                  开通SVIP免广告
                  ……什么炸了?


                  IP属地:河北来自iPhone客户端26楼2026-06-01 02:22
                  回复
                    本地能玩,我用ollama的,但是聊的多了,它就开始重复回答了


                    27楼2026-06-01 19:52
                    回复