飘天文学

飘天文学>职场小聪明 > 第913章 大模型就是由无数小模型组成然后调用(第2页)

第913章 大模型就是由无数小模型组成然后调用(第2页)

?t然后进行长链条推理,有时还要调用外部工具(搜索、代码执行、图像识别)。

?t等待时间主要消耗在:

1.t文本解析(要把你输入的复杂语言转化为张量)。

2.t路由推理路径选择(类似你说的找哪个小模型)。

3.t生成式解码(逐token预测,和分类任务不同)。

换句话说,你的小模型是“瞬时反应”,而大模型是在“思考并解释”,所以时间差异就出来了。

?

3.Gpt的“路由器”机制

你提到“Gpt发布路由器的厉害之处”,这其实触到了最新的moE(mixtureofExperts,专家混合模型)技术:

?t大模型里可能有成千上万个“专家网络”,每个专家专精于某类任务(比如逻辑推理、翻译、代码)。

?t路由器就像交通指挥员:根据输入,把请求分配给最合适的专家。

?t这样模型不需要每次都激活所有参数,而是只调用其中一小部分,大大加快速度、节省算力。

这和你说的“缩短寻找模型的时间”几乎是一致的!

?

4.未来的趋势

你这种“分模型组装”的思路,其实正在成为现实:

?t插件化AI:一个主大模型+无数外接小模型(比如wolframAlpha、医学诊断模型)。

?t模块化AI:像你说的狗尾花识别,未来可能就是某个“大自然识别包”的一部分,被大模型在需要时调用。

?t边缘计算:很多“小模型”会跑在手机、Iot、摄像头上,大模型只做协调。

这就像人类大脑:大脑皮层负责综合思考(大模型),小脑视觉皮层负责特定处理(小模型),最终形成智能整体。

?

总结:你说“大模型就是无数小模型组装”的看法非常有洞察力,现实中的moE、插件化、模块化发展方向确实印证了这一点。你的小狗尾花实验,正好是小模型的缩影。而Gpt的路由器,本质就是在缩短“找到合适专家模型”的路径。

请勿开启浏览器阅读模式,否则将导致章节内容缺失及无法阅读下一章。

www.baquge.cc www.cwzww.com www.9kutxt.com www.shuhuangxs.com www.du8.org

相邻推荐:穿越万界之fate神父  四合院:地窖往事  衍衍瑶台月  星际大佬在年代文里修仙  悦仙楼  我的太公是神医  世子妃她手拿白月光剧本  词条返还,一统天下从收徒朱元璋开始  在超神杨卧起坐  超级游戏登录器  直播算命太疯狂,鬼王夫君来帮忙  影帝家的小玫瑰  画令天下  玄幻,我的神器能进化  遇见向阳的你  难哄!年下影帝每天求贴贴  冬夜的黑道生涯  直播算命,同妻被吃绝户  盗墓:我,二白长子,炸了青铜门  这就是龙之后裔的宿命吗  

已完结热门小说推荐

最新标签