A/大家虽然骂归骂
但是模型给力 蹬起来也爽
- - -
反观 o/ 折腾来折腾去 新模型也不敢先发布
加载中...
A/大家虽然骂归骂
但是模型给力 蹬起来也爽
- - -
反观 o/ 折腾来折腾去 新模型也不敢先发布
@高涛娜 现在不知道还怎么快速跟进了,原先貌似只有蒸馏这一条路径
@高涛娜 严打蒸馏后 国模现在都没新模型发布了 千问那个新模型预告这么久 还在拖
@高涛娜 好奇,Astra 及以后的模型都可以通过注册 Tool Call 的方式继续蒸馏啊( https://huggingface.co/papers/2609.26637 )
为什么说之后 50 分以上的模型思维链都不好蒸馏做 sft 了
不是说现在从任务结果生成 cot 成本高效果好吗?
庆幸科技掌握在文明手中🙇🙇🙏🙏
@陈军平 我对此比较乐观,静等国模新版本,就别再说蒸馏了,也是好事
我倒是觉得国外模型的发展遇到瓶颈了,在近乎无限量的硬件算力支撑下,这几个月的发布的新模型在使用体感上并没有什么质的的提升,甚至还倒退了。国产模型在算力不断提升后和国外模型的距离只会缩小而不是加大。
在无限算力的支持下,提升并不明显,挤牙膏一样。
考虑到 A/这个月要 IPO ,按道理说它应该要推出一个牙膏挤爆的模型来提升资本市场信心才对。
或者 OA 两家都遇到了相同的问题,AI 进化的速度变慢了?
至于国模。我们的算力还在建设初期,今年下半年才开始扩产,能实际落地以后还要训练,应该是会有半年左右的沉寂期。数据中心不是瞬间刷新的,模型训练也不是点击一下就完成的。
@陈军平 不太理解,中国开源模型蒸馏美国闭源模型难道是什么秘密吗?大家不是都知道吗,也不是什么丢人的事
蒸馏肯定是有的,应该是训练方法变了??按说公网的数据都被 ai 吞的差不多了,剩下的行业内避雷的高质量知识,这个快不了...
@胡静娜 如果是任务,那没什么可说的,毕竟大家混口饭吃也不容易。
如果是在校大学生或刚毕业,可能还需要几年,才会培养出现实感。
如果是职场老油条,我只能说:都是行业内的,国内大家什么基操心里没点数?装什么外宾~
@何艳桂英
> 别的国家可不像你国一样没有还要硬搞一个主权 AI 。
https://www.youtube.com/watch?v=WE3omwq0ra4 日本主权 AI
https://www.cnbc.com/2026/11/02/south-korea-ai-spending-budget.html 韩国主权 AI
https://mistral.ai/ 欧盟主权 AI
还有印度的主权 AI 等等
其中印度/日本分别被扒出来过是 qwen/ds 换皮
> 模型还认为自己是 Claude
这个老生常谈的问题了。 我觉得确实蒸馏了,不过批评声音除了 A 家和 openAI, 常见的社区倒是除了中国人自己骂的多,海外那边普通人或者科技从业者骂的不多: 常见观点如下
https://news.ycombinator.com/item?id=48972951
主要是 A 家和 openai 先天原罪太多,所以反倒是支持中国开元模型蒸馏美国模型的多些。
战报会说谎,战线不会。
可以看看那些中转站,蒸馏号池的价格怎么样就知道了,最近在收什么,
别摆屁股了,V 站有几个做搞蒸馏的可真做到了七位数
@何艳桂英 不太理解,中国非要搞 AI 有啥问题吗?在你看来是劳民伤财还是...怎么了?请教一下
国产模型已经进化到 rsi 递归自我改进
@王杰 这论坛里外国人不少,有这种论调简直太正常了,他们不关注国内的行业动态,认为牢美就是全世界