返回

第二百八十五章 喵~

首页
关灯
护眼
字:
大
中
小
上一页 回目录 下一章 进书架
    第二百八十五章 喵~ (第2/2页)

候,他得现翻答案,翻到了,答的就好;可是翻不到,你就别指望他能给出什麽好答案了。」

    韩路一讲的清晰到位,姜亦心和苏念念都听懂了。

    确实,从这个方向上看,问题还是没得到解决。

    姜亦心翻了一页资料,说道:「还有下一个问题。」

    屏幕上写着这一节的标题:【长时记忆】。

    「现在汤圆很强,但是它的工作是响应式的。」姜亦心说道,「我问一个问题,它回答一个问题;我追问下一个问题,它回答下一个问题。等到我问的问题太多了,超出了上下文窗口,整个对话就没法用了,然後打开下一个问题,一切从头开始。我们做御风的时候就对这个问题特意做了优化,然後在做这个成长助手的时候,我们遇到了同样的问题。」

    这确实是在一线应用开发中才会遇到的痛点。

    韩路一回头看了看苏念念,她最近做经营管理比较多,已经脱离产品一线一段时间了。

    韩路一怕苏念念听不懂,停下来做了一些讲解—当然,他是对着姜亦心说的,只是让苏总顺便听一下。

    「大模型进行生成的时候,就是把所有的上下文都放进模型里跑一遍,最後得出答案,所以上下文给的越多,占用的内存就越多,这个量有个极限大小,就是上下文窗口。」韩路一说道,「现在汤圆的上下文窗口是二十万个词元,这个量不算小,如果只是日常问答是够用的,但是在工程中使用的话就捉襟见肘了。」

    「超出上下文窗口之後,大模型还能继续工作,但是它就会默默地忘记用户最一开始说的话,给出的答案很多时候都驴唇不对马嘴了,而用户还不知道是哪里出了问题。」

    为了形象说明,韩路一讲了个网上的段子。

    「有人说,你在和大模型聊天的时候,可以在最一开始加一个要求,让他在每一个回答最後都加一个「喵」,等他什麽时候大模型突然回答不带喵」字了,你就知道他已经超出上下文窗口了,需要换一个新的聊天进程了。」

    苏念念确实不知道这些,尤其是最後的那个段子,她轻轻点了点头。

    「所以在汤圆的上下文窗口有无限大之前,我们只能让它回答窗口里能撑得下的回答」姜亦心总结道。

    这个总结很到位。

    把问题分析完之後,姜亦心终於翻到了她的提案。

    AI技能。

    「这是什麽?」韩路一开口问道。

    姜亦心想了想,说道:「可以理解成一种可复用的行动脚本。」

    她怕这个解释太虚,又换了个说法。

    「比如说,我想要一个运营复盘的技能,模型知道怎麽写复盘,但每次都要从头思考,像一个很聪明但没受过公司培训的新人。AI技能就是把公司里成熟员工的做法沉淀成一套固定动作,什麽时候触发,先看哪些数据,怎麽判断异常,怎麽拉取用户反馈,最後输出什麽格式,全都写清楚。」

    「类似SOP(Standard OperatingProcedure,标准操作步骤)啊。」苏念念说。

    乍一看,这个概念和御风很像。

    御风也是把编程拆解成了不同的步骤,其中的每一步都由大模型来进行规划和判断,然後御风的工具再在代码库中进行执行。

    但是韩路一和苏念念都很快地意识到,这是同一个理念在不同场景下的应用。

    AI技能是把一套提示词给大模型,让它根据提示词记录的方式去行动,但具体的行动还是因时而异。

    真的就像把一个技能做成了一个插件,让大模型即插即用。

    在大模型还不能真的做到AGI的时候,这是一个通过工程方案来突破模型能力限制的技术。

    韩路一听了点了点头,表示认可。

    当然了,这只是一个大方向,真的想要落地,其中要攻克的技术难关不知道还有多少。

    但是至少这个方向听起来是可行的。

    现在AI这个行业,模型层在卷,应用层在卷,在模型和应用之间的工程层也在卷。

    只有一直卷下去,才能卷出一条最终通往AGI的道路来。

    韩路一拍了一下手掌,做了最後的总结。

    「想法不错,是个值得试试的方向。这些应用层的设计,很大程度上依赖於汤圆的能力,汤圆越强,应用就越强。」韩路一说道,「小姜,你开始写产品说明的时候和赵总详细对一下汤圆的能力边界。」

    「好的,韩总。」姜亦心接受命令。

    果然,韩总知道该怎麽办。

    「关於这个AI技能的开发优先级,让苏总来给你排吧。」韩路一又给源码科技的CE0

    下了任务,公司方向、资源调配,这些都是CE0的工作。

    苏念念点了点头:「小姜你最近探索的方向越来越多,我得给你多招几个人了,记得和沈丛云排面试的时间。」

    姜亦心吓了一跳。

    我也要去面试别人了吗?

    现在她手底下的产品经理都是苏念念招进来的,真要去面试别人,姜亦心还没做好准备。

    苏念念看出她的不安,安慰道:「没关系,谁都有第一次的,我面试你的时候也很紧张呢。」

    姜亦心回想了一下,有吗?

    我只记得苏总温柔又体贴来着。

    姜亦心突然想到了什麽,开口说道:「对了,韩总。」

    「怎麽了?」

    「关於那个汤圆成长助手,我收集了几个备选的产品名,想让您和苏总选一选。」姜亦心说道。

    「不是说让你定吗?」苏念念笑了笑,「都有什麽,说说吧。」

    「有「深蓝」

    」

    姜亦心刚开口就被韩路一打断了。

    「你说叫什麽名字?」他有点儿哭笑不得的说道。

    「「深蓝」啊,怎麽了?」姜亦心说道。

    苏念念也疑惑的看着韩路一,不知道他怎麽对一个名字反应那麽大。

    「是那个「以我全部的感悟!以我一生之悟道!以我通天的智慧!以我无敌的资质!」的深蓝吗?」韩路一继续问。

    「啊?」姜亦心脸上露出错愕的表情,「不是拿到西洋棋世界冠军的深蓝吗?」

    倒是苏念念已经反应过来了,一定是韩路一的中二病又犯了。

    「不是,你这个名字是谁提的?」韩路一确定姜亦心没听过这个梗了,但是他不相信「深蓝」这个词和加点没关系。

    「是小牛和小杨说的。」姜亦心说,「您不喜欢这个名字?我也不太喜欢,我这还准备了一些其他的名字,像「悟空」,可名」,「无涯」

    「不用!」韩路一说,「就叫深蓝吧,我觉得这个名字挺好,反正是内部产品。」

    姜亦心狐疑地看了他一眼,眼神里的意思很明显:韩总,您真确定吗?

    「行了,散会。」韩路一看了看表,已经五点了,「早点儿回家吧,别让我当黑心的资本家。」

    「那我走了,韩总,苏总,明天见。」姜亦心把电脑拿起来出了门。

    既然答应韩总要早走了,今天就回家加班吧。

    姜亦心一边往外走一边想。

    ?今天没被考试啊,可喜可贺。

    苏念念看着姜亦心出了会议室的门,伸出手,伸了一个懒腰:「开了一下午会,闷死了,人都僵了。」

    韩路一忍不住瞟了一眼,又赶紧把目光收了回来。

    一点儿也不儿童。

    苏念念伸完懒腰也站了起来:「路一,我也要先回家啦。」

    「嗯,路上注意安全。」韩路一说了一句。

    苏念念走到门口,突然回过头,脸有点儿红红的。

    韩路一正奇怪,突然听到她又说了一句:「喵~」

    然後她就急匆匆地开门出去了。

    韩路一回到办公室的时候,感觉自己的心跳还没有平复下来。

    喵什麽的,也太犯规了吧。

    刘彧看了看韩路一的脸色:「韩总,您没事吧?」

    「没事啊,怎麽了?」韩路一听到这个问题,有点儿心虚的回答道。

    「脸有点儿红。」刘彧仔细地打量了一下。

    「太热了。」韩路一说,看了刘彧一眼,「下班了,早点儿回家吧。」

    刘彧立刻把头低下:「好的,韩总,明天见。」

    秘书的求生欲很强。

    韩路一虽然催着员工下班,但是他自己打算加会儿班。

    反正回家也没别的事儿干,而且今天早晨还刚答应了赵文渊和江松然要去做算子适配的工作,得先练练手。

    韩路一本人的技术能力是不差,但是对显卡的硬体优化,他可以说完全是个门外汉,这个工作肯定是要靠视哥来做的。

    至於视界具体能做到什麽程度,其实他心里也还没有底。

    他答应的虽然轻巧,但一个月真能做出来吗?

    不好说,那可是上百人的团队以年记的工作,还得试过才知道。

    不过刚才的那个会议倒是给韩路一带来了一些启发。

    把单个领域内的技能抽象成可复用的能力,让大模型调用,这是一个很好的思路。

    虽然受限於大模型的能力限制,具体要怎麽做,能做到什麽程度还不好说。

    但是别忘了,汤圆还只是这个时代的大模型,能力有限。

    可我不只有汤圆,我还有视界啊。

    视界,是时候了,让我看看你的极限在哪里。

    >
上一页 回目录 下一章 存书签