Krste Asanovic:Risc

向量7月18日,第5届RISC-V中国峰会参加了上海的次级课程。作为未来电子行业的最大应用领域之一,人工智能是不可避免的话题。人工智能的快速发展推动了基础建筑的变化,计算强度需求的平均年增长率超过100%。 “开放,灵活和可定制的” RISC-V已成为发展AI计算独立力量的基础的战略支点。人工子部邀请各方的公司讨论RISC-V架构如何使用开放资源,开放和测量的功能来实现AI计算体系结构的变化,以及AI软件和Hardware中RISC-V架构应用程序的最新开发和实施。其中,Sifive联合创始人兼首席建筑师Kstte Asanovic分享了他对扩大RISC-V AI教学的看法,他全面解释了ARC的选择。媒介到矩阵的挑战和挑战。在使用人工智能和人工智能模型的情况下,共同的特征是需要在小型专用数据类型中进行大量计算。因此,人工智能中使用的数据类型通常很小,尤其较小。但是现在,从FP-32到FP16BF的过程继续扩大。另一个问题需要大量内存来处理所有参数,这就是为什么您致力于减少每个单独参数的大小并找到管理量表并避免数量问题的明智方法的原因。现在,拥有如此巨大的内存痕迹,并且需要进行多个计算的需求,这意味着您需要大量的内存带宽来获取所有这些参数,并将它们传递给在层之间。 RISC-V支持AI中的一般计算模型,这意味着它支持标量和矩阵的当前功能。人工智能很有趣 - 友好E是其他应用程序的技术组成部分。因此,您需要一个可以处理总体用途计算和人工计算智能的处理器。开发人员经常发现新的AI模型非常快,因此,由于旧硬件的标准标量矢量矩阵功能,所有这些模型都可以很好地完成,并且NNEW模型倾向于使用这些功能的不同组合。但是,如果您的机器很常见并且可以支持所有机器,它将仔细运行新的模型。另一件事是,在同一生成模型中使用的不同使用情况使用标量,向量,矩阵功能的不同组合来处理所需的任何应用程序。因此,风险波的组成部分是向量的扩展。几年前,RVV获得了批准,这是一个非常强大的向量扩展。向量在人工智能中非常重要。尽管对矩阵计算有很多关注,但人工有许多关键步骤矩阵引擎无法做到的智能智能。您需要使用向量进行计算,RVV旨在支持多种类型的数据。扩大RISC-V矩阵是去年RISC-V最热门的话题。原因是矩阵乘以关键组成部分,以加速人工智能应用的开发。它用于从小到大的不同RISC-V应用中。 RISC-V核有多种形状和尺寸。通常,在矩阵繁殖空间中测试不同选项的活动很多。好消息是,较少的矩阵复制品与向量不同。如果您查看矢量库,则可能有成千上万的矢量操作操作,但是在矩阵惩罚库中,可能会有十或数百个-A函数。我试图将所有内容从左到右到幻灯片,Makiyou看到不同矩阵引擎的复杂性。为了提高性能,您确实需要添加一些特殊矩阵引擎,以接下来的两个选项为代表,添加了红色框。矩阵和累加器中的额外操作正在增加。向量矩阵方法:添加一个新的大型矩阵,该矩阵积累以维持C,可以将其分为一个或多个图块。使用RVV矢量为操作数提供资源,而不是为MATMUL提供资源。矩阵产品的外部样式的复制可以支持“ fat” k 1的较窄类型。支持行/列切换到向量寄存器或夹子或夹子并存储在内存中。矩阵发动机可以提供很高的吞吐量,并且C蓄能器的状态位于Arithmeti Unitka附近。替代矩阵教学扩展:批处理点产品:矩阵没有其他状态。较小的矢量长度下的小且有效的扩展也可能满足某些DSP要求,但性能不能以较大的矢量长度扩展。向量中的矩阵:没有广告矩阵的双性状态,允许更长的向量,吞吐量比点产物更大。向量矩阵:向已经具有RVV的处理器添加一个矩阵状态,以维护向量的内存模型。矩阵分离:未连接的矩阵和向量设计,最大的设计空间和软件工作将持续使用混合物。包括适量数量在内的所有行动都将充分利用我们的努力来支持它。因此,我认为转换需要最长的时间,但这是当前关注矩阵扩展系统RISC-V的曲目。第一个真的就像是向量扩展名,而是主要扩展。因此,您可以说三个矩阵扩展程序有一个快速的向量扩展,这就是解决方案。在RISC-V International中,我们必须站起来并同意标准。我们还确保软件社区知道该目标的目标。
请尊重我们的辛苦付出,未经允许,请不要转载Ag亚洲集团官方网站_ag8亚洲游戏集团官网的文章!

下一篇:没有了