返回

第二百八十章 给老板派活儿

首页
关灯
护眼
字:
大
中
小
上一页 回目录 下一章 进书架
    第二百八十章 给老板派活儿 (第2/2页)

干好了,你只需要考虑怎麽设计训练管线、训练策略就行。

    现在用矽明的L100,他们的软体团队就不用指望了,所有的活都得源智的团队做,虽然最近招来的人都有丰富的调优经验,也做好了攻坚准备,但是这种事情急不得。

    活儿多不可怕,但是你不能设置不合理的预期。

    的训练能力,完成汤圆1.0的训练。

    虽然他没说预期多长时间做完,但是你听听这个名字,现在发布的是0.9,要优先把1.0训练完,这个任务难道还能等一年多吗?

    他只能把最乐观的估计说出来:「我估计,三个月能把一阶段做完,二阶段的通信要六个月,还要花六个月做算子调优一这是最保守的估计,十五个月以後,可以尝试做训练。」

    实际上做过工程的人都知道,这种估计真做起来,花的时间翻倍都不止。但他实在是说不出口,让汤圆1.0三年之後再开始训练。

    0.9都发布三年了,才训练1.0,你听听这是人话吗?

    江松然对韩路一坚持不用任何云服务商的决定也了解,这是对数据安全的坚持。但是咱们现在只有国产卡,或者,如果实在是等不及,要不采购点英伟达的卡?先用着,也不耽误咱们做国产化,不丢人。

    这话他也没说,等着韩路一的回应。

    没想到,韩路一没说话,倒是这两天一直和江松然一起准备报告的赵文渊先开了口。

    「我觉得三个月太长了,一个月,应该就可以把第一阶段的基本训练链路做完了。」

    江松然震惊地看着身旁的赵文渊。

    老赵,你知道自己在说什麽吗?

    这是训练,不是推理!

    吹牛不是这麽吹的,当着韩总的面,你要把牛皮吹破了。

    这下他忍不住了,恨不得上去捂老赵的嘴:「不行不行,韩总,一个月肯定不行,你看看这表里多少算子呢。」

    他知道韩路一的技术强,在他加入源智之前,韩路一也在早期的算子适配工作中做过贡献。

    但他可太怕韩路一对这个项目的工程量有什麽误解了。

    现在源智团队里用的还是一个叫「算子打靶法」的工作方法。

    这个工作方法还是当时韩路一提出来的。

    所谓「算子打靶法」,就是对每一个要进行适配的算子,对标英伟达的算子,用御风来转换生成适配代码,只要达到英伟达对应60%的效率就算是达标。

    这个60%是从当初的80%降下来的,为的就是让推理快速上线,牺牲一部分硬体的使用效率。

    但是现在要做大模型的训练,60%就不够了,甚至80%都不够,得至少达到90%以上。

    话是这麽说,效率的提升难道是一件容易事吗?

    御风生成起代码来是快,但是该做的验证的活儿一点也少不了,每一个算子的每一个参数得一个个试过去,找到对应L100这个硬体设计的最优解。

    如果说60%试十次能找到,80%可能得试一百次,90%可能得试一千次。

    这还只是一个算子的一个参数。

    所以江松然才说做适配是个苦力活。

    没想到韩路一没说话,赵文渊又开口了:「韩总,一个月,您觉得行不行?」

    江松然已经无语了,什麽行不行,你问老板这个,当然行,一个月之後咱们拿不出东西来怎麽办?

    那是肯定拿不出来,能做出十个算子都超出预期了。

    韩路一听完,没有直接回答,而是思考了一下。

    江松然期待韩路一听进去自己说的话了,能意识到一个月是一个多麽不可思议的期限。

    拒绝老赵,韩总,拒绝老赵啊!

    「行,我试试。」在江松然默默的祈祷中,韩路一说。

    江松然垂头丧气。

    老赵啊老赵,你看,老板答应了吧?咱们可怎麽办啊。

    韩总说他试试。

    一等等,韩总说什麽?

    他试试?

    他试试什麽?

    赵文渊完全没露出意外的神色,满意的点了点头。

    老爷爷果然靠谱。

    韩总说行就是行。

    江松然心里还没回过味儿来,韩路一又开口了:「江工,算子适配的事,你带着团队只需要负责逻辑没问题就行,具体的参数留给我,我来找。」

    江松然这才反应过来,老赵这是给老板派活儿呢!

    「您——您——」江松然「您」了两声,没出话来。

    他想问的是,你凭什麽觉得自己特别会调参啊?

    但是这话问出来可不太好听。

    赵文渊在旁边已经替他解释了:「韩总特别会读论文。」

    韩路一听完,憋着笑点了点头。

    好,文渊已经找到合理的解释了。

    只剩下江松然还在原地风中凌乱,我单听说韩总写了早期的几个算子的实现,我不知道他要写所有的算子实现啊。

    而且,调参都交给他是什麽意思啊?

    这是一个人能干的活儿吗?

    赵文渊在旁边看着江松然整个人僵住的样子,轻轻拍了拍他的肩膀。

    有些事实接受起来是要花一些时间的。

    韩路一看了看手机的时间,会议快结束了,他拍了下手:「今天先到这,下一步的计划等我们把第一阶段的工作做完之後再安排。」

    然後他对赵文渊说了一句:「文渊,我有个问题单独问你,一会儿来一下我办公室。

    「」
上一页 回目录 下一章 存书签