deepseek吧 关注:297,697贴子:1,074,105

openai前研究员重大发现,ds4.1可能已经更换国产卡训练

只看楼主收藏回复

一位openai前研究员找到从开源模型权重参数,反推使用训练卡的方式,测试了一系列国产开源模型,发现国内厂商可能已经拿到走私的blackwell架构卡,进行训练其中,其中deepseek v4,kimi3.1,minimax m3,ling3.1已经使用b200/b300训练,还有一堆模型是hopper架构的老模型偏多比如,小米mimo,ds v3,阿里qwen3,腾讯hy4
但有些发现不是通过英伟达计算卡训练,其中有百度ernie5.5(百度声明自研昆仑芯),美国longcat(昇腾),还有deepseek4.1flash,竟然也没有找到英伟达训练痕迹,可能是国产卡训练


疑似含AI内容
IP属地:吉林来自Android客户端1楼2026-11-14 23:58回复
    这位研究员本来是打算说国内走私大量芯片的意思,还估算了各家所有的卡,DeepSeek v4训练可能有1700张b300,kimi k3有3400张b300,minmax和阿里大概都是1400张
    但比起这些,我觉得比较劲爆的是,ds v4.1发现不是英伟达卡训练(虽然他正文里不写,偷偷放在附录里,不过是美国人也好歹诚实写出来,就不要求太多了)


    IP属地:吉林来自Android客户端5楼2026-11-15 00:09
    收起回复
      2026-11-21 06:12:11
      广告
      不感兴趣
      开通SVIP免广告
      当然要注意,这个检测方法的充要条件是 NVIDIA GPU + PyTorch 框架,所以还存在以下几种可能:
      - A:DeepSeek 已经超时空预判了这项研究,于是提前使用了 CPU 初始化
      - B:DeepSeek 完全重写了自己的训练框架,没有使用 PyTorch
      - C:DeepSeek 使用了国产计算卡,不在调查员的穷举范围内
      B的理论基本没可能,因为B要完全重写整套训练框架、抛弃PyTorch(工程上可能性极低),这需要数千人团队年的体量,爆炸级的工程量
      所以v4.1版本确实存在换代国产计算卡可能


      IP属地:吉林来自Android客户端6楼2026-11-15 00:27
      收起回复
        所以目前指出的非英伟达模型有,qwen部分小模型(疑似平头哥训练?),美团longcat(与其声称使用昇腾对应),百度ernie5.5(与百度自研昆仑芯对应),还有deepseek v4.1 flash


        IP属地:吉林来自Android客户端7楼2026-11-15 00:32
        收起回复
          我认为deepseek v4.1已经使用国产卡概率很高
          因为B选项首先重写训练框架基本零概率,工程量比起B C是数量级差距,没啥好处的,从零开始搭建底层本来就公开的零件
          而A选项,工程量较小,但除非比这个openai研究员,提前发现反推的方法,预判了行为,否则使用cpu初始化也没有任何好处,只会增加bug和运行开销,但这又无法解释v4为何被检测为英伟达的blackwell架构卡
          所以尽管C,换代国产卡,也是工程量相对大的,但是可能性相对最高,不过也有疑点,就是时间上的,昇腾950dt官方时间8月份才大规模出货,和1017时间卡太近了
          所以仍然存疑,但相同方法也能用在国产卡上,得看有没有人愿意去租国产卡做指纹测试,才能确认具体的训练卡了


          IP属地:吉林来自Android客户端8楼2026-11-15 00:51
          收起回复
            如果真的在v4.1代就已经更换国产卡训练,那绝对是爆炸级的新闻,这意味之前v5换国产卡是烟雾弹,追赶进度一下子也能比我们想象的顺利更多


            IP属地:吉林来自Android客户端9楼2026-11-15 00:54
            收起回复
              所以pro炼炸加上新一代旗舰憋不出来是因为国产卡的关系?


              IP属地:山东来自Android客户端10楼2026-11-15 00:59
              收起回复
                毕竟走私数量实在有限,而且还在收紧,openai官方也确认了astra用了整整10w张b200训练
                DeepSeek如果拿这个openai前研究员推算出的,手里仅有的1700张b300打openai其中一部分的10w张b200卡还是太难了


                IP属地:吉林来自Android客户端11楼2026-11-15 00:59
                收起回复
                  2026-11-21 06:06:11
                  广告
                  不感兴趣
                  开通SVIP免广告
                  实际上我甚至怀疑过去两个月里ds服务频繁宕机都和昇腾卡有关系
                  因为理论上ds目前的服务架构从他们公布的论文来看是很稳定的,而从事后来看那段时间并没有突发的高流量和模型更迭
                  就算挖光缆也不能次次挖断吧,个人有点怀疑是大批量更换昇腾节点适配过程中出现的异常问题解决


                  IP属地:浙江12楼2026-11-15 01:36
                  收起回复
                    大的还在来,有望在明年第一季度华子的卡出来前看到ds新模吗?


                    IP属地:广东来自Android客户端13楼2026-11-15 02:34
                    收起回复
                      现在大伙都挺猛的就指望着华为别拉胯了


                      IP属地:上海来自Android客户端14楼2026-11-15 04:10
                      收起回复
                        以后各家可能训练上都会减少对nv的依赖,包括oai grok


                        IP属地:广东来自Android客户端15楼2026-11-15 05:24
                        收起回复
                          颇有调查了一圈发现人被杀就会死的味道


                          IP属地:四川16楼2026-11-15 06:57
                          回复
                            如果这样的话,第一个华为卡训练出的模型就不是美团,是0730?


                            IP属地:上海来自Android客户端17楼2026-11-15 07:21
                            收起回复
                              2026-11-21 06:00:11
                              广告
                              不感兴趣
                              开通SVIP免广告
                              并不能直接得出ds4.1是国产卡训练的,这只是一个可能原因。这个方法读的是模型初始化时留下的数值图案。用 CPU 初始化的权重不会留下 GPU 痕迹,Qwen3 的几个模型就是这样。初始化不等于训练:权重可以在一套系统上生成,再换到别的硬件上训练或混合训练,这样也留不下痕迹。指纹可以在换硬件后保留,也可以被后续模型继承,但在 V4.1-Flash 上没有恢复出这类信号。 所以这只能说明初始化阶段没留下可识别的信号,没法说明它具体用了什么芯片。


                              IP属地:加拿大来自Android客户端18楼2026-11-15 08:08
                              收起回复