主题:
字号:
16
行距:
2.0

第243章 买一送一[3 / 3]

的么?可是,刚才我们测试验证都没问题了啊……”

钟景航也一脸诧异,猜不出王霁的话是什么意思。

王霁笑吟吟道:“不是那几个点,那个问题我昨天就搞定了……”

将电脑屏幕转了过去:

“我看代码的时候,还发现个问题……”

“你们处理大模型高稀疏矩阵效率很低,无效占比计算超过65%。”

“而且,用的加速方案需要固定稀疏模式,无法适配动态稀疏。”

“如果稀疏矩阵的非零元素位置随机,你们cache命中率下降了50%多。”

“多核并发计算时,稀疏任务分配不均,闲的闲死,忙的忙死。”

“我就顺手解决了……”

他对着电脑滔滔不绝。

丝毫没留意到,几个人表情越来越诡异。

听着听着,已经没在看电脑,而是将目光都锁到他脸上。

王霁继续说方法:

“我的优化策略是……”

“首先,增加稀疏模式检测单元,实时识别矩阵中的非零块。”

“用硬件实现自动掩码,根据当前稀疏模式来生成,跳过全零块。”

“然后,在NoC上集成优先级仲裁器,将稀疏计算任务拆分为细粒度子任务,高稀疏度任务优先分配至空闲核。”

“最后,利用你们芯片已有的稀疏、密集模式,增加动态阈值判断。”

“整体下来,Transformer推理服务模拟测试延迟能降低50%以上。”

“因为减少了稀疏计算的能耗,边缘侧芯片推理功耗降低40%以上……”

这个问题,是其余红点的报错。

今天花大半天搞定的。

反正,闲着也闲着……

就当买一送一。

讲完后抬起头,看到几张几乎在淌口水的脸。

莫远游擦了擦嘴,转头望向同样找不着下巴的CEO。

钟景航怔了半晌,才反应过来。

咽了口唾沫,对王霁道:

“小王,这个问题是我们下个版本要解决的……”

“我们准备投入20个人,集中半年时间,争取在年底前攻克……”

一人:开局模拟轮回,夷陵老祖!
唯物存在的天意
穿越者纵横动漫世界
龙之宫
那一天,月亮吞下整座城
浊人
四合院:秦淮茹退婚?我反手拿捏
大爱比比东
满宫不孕,唯我三年抱俩!
酸辣鱼丸粉
军阀:我奉化人,当个总统怎么了
爱吃西瓜的狗哥
你一个煤老板,谈什么科技兴国?
雪落眉间
仙眼
箫不语
贞观败家子
钱富贵er
名义:工作的时候称职务
林一苏
村香,尝鲜!
天神殿ov
逃婚后我去了东莞
慧觉本心梦禅
别人上学我修仙,校花伴我每一天
上官之下
我在莞城风花雪月
弹剑吟诗啸
离婚后,顾总宠妻如命!
明婳
综影视:成为女主角攻略计划
山木有兮沐兮
任务流神豪
幼儿园高手
重回1982小渔村
米饭的米
公若不弃,愿拜为义父
辣酱热干面
第四天灾从不相信钢铁洪流!
喀秋莎第一可爱
修仙界只有妖女了是吗
月下千早
四合院之扮猪吃老虎
戈壁孤狼夜
青山
会说话的肘子
北海道赛马物语
点旗2009
仙命在我
杜养吾
半岛头号玩咖!
HKDoll
半岛小行星
鸡兔同笼
被夺一切后我成了仙道魁首
盛唐无夜
重生鉴宝:我真没想当专家
眀智
华娱从洪世贤开始
在下励志师
风起北美1625
一贱下天山
工业克苏鲁,从海岛领主开始
刀如故
娱乐:我就是顶峰
疑似风月
以一龙之力打倒整个世界!
唐宋元明氢
我在俄国当文豪
卡拉马佐夫
美警生存实录:以德服人
夜叶总差
循规蹈矩能叫重生吗?
法学院新生
苟在武道世界成圣
在水中的纸老虎
我以奥术登临神座
危楼听雨
全球觉醒:开局加入聊天群
飞翔的四眼
大明:从战场捡属性开创诸天大明
无谅888
税收只在机枪射程内!
践行践远
道君,从蓬莱筑基开始
临渊今天一定更
诸天影视从四合院开始
洒家要吃肉
魔王大人深不可测
晨星LL
穿越,然后被富家JK堵门
晚不鸽
人在斗破:天赋绝世竟带系统
仪昔
超武斗东京
木隐红尘
诸天:谁把他放进恐怖片的?
三维的乱象
F1:车神养成日记
诸位贱笑了