楼主
发表于2024-03-12 01:52:30查看 514回复0浏览 514

为什么要开源?

这其实在意料之中

因为通用model目前实际上就只有openai和Google Gemini、Claude分天下了

而mistral、llama这些现在是开源的leader 背后赚足了开发者的好感 然后顺势带动了整个生态(包括微调、下游应用、推理优化等) 最后再反过来推荐整体业务(融资、用户增长)等等

这就是开源与闭源的抗衡力量 ——开发者生态

而grok开源 说实际一点 抛开AGI开源主义这些 谈实际的 其实也追不上openai、Gemini、Claude它们了(因为数据飞轮效应是模型的最大护城河 后来者在没有其他压倒性优势的情况下 拿什么来超越?)

而老马其实本身也是一个心怀世界、人类文明的人,而且他当初作为openai的主要创建人的初衷大概也是让AI开源而让全世界受益

既然openai后来改了做closeAI(有一说一 从技术实现角度来说 我觉得改得其实也挺好的 毕竟要是持续真正的非盈利机构 又怎么可能做到如此的跨时代的模型?)

那老马大概也只能再搞一个新的来实现他当初的AI初衷(不得不敬佩 )

Grok开源的优势在哪?

从数据、算力这两个方面来讲(现在业界LLM基本不大谈算法差距了 反而基建工程变得更为重要)

grok背靠世界上最大的实时高质量信息平台——x(推特) 在数据方面肯定是慢慢会成为最有优势的 毕竟像reddit那些平台 现在不少都已经开始充斥AI制作的重复信息了 实时数据将会是最有价值的(尽管x推特平台本身可能没有太多长文本料)

这就是它开源的优势所在

一些猜测

但是要想突破GPT4 我估计就得另寻算法了 个人认为单纯让模型scale up 不会再有太大突破了 盲猜GPT5应该不是走单纯这条路 不然很快就能发布的 迟迟不发布(证明如果还是走scale up这条 效应该还是不理想)

那些喊AGI几年就实现的大佬 我感觉应该是把AGI定义得太简单了

lecun、马库斯这些top academic expert可能就比较清醒 起码现在没有任何的常识性、感受性/的迹象能表明现有的算法是有智能的

那些paper证明什么现有模型能理解世界的 都是......

有时候 少数人的观点才是真理 就像openai走的技术路线也属于极少数人那部分 当然这个得交给时间去回答 不争论这些目前没法证明的