●“内存中计算” 或称为 SK hynix AiM
在 GDDR6 内存中，每个内存块都有自己的 1GHz 处理单元，能够提供 512GB/s 的内部带宽。在内存中进行矩阵 - 向量乘法（GEMV）以进行人工智能计算，权重矩阵数据来自内存块，而向量数据来自全局缓冲区。内存中的 AiM 使用特定的内存命令进行计算。内存的扩展性，以及大型语言模型所需的内存中 AiM 计算资源。使用这种 AiM 的情况下，主要挑战是需要在软件端进行映射，为 AiM 设计硬件架构，然后提供接口，这是采用这种技术的另一个主要障碍。研究如何将问题映射到 AiM系统架构需要能够处理规模化和扩展性AiM 架构的关键组件包括 AiM 控制器、可扩展多播互连、路由器、计算单元（ALU）和指令序列控制器。矩阵向量累积函数对人工智能工作负载至关重要，AiM 使用一种类似 CISC 的指令集来管理这些函数。优化：在新的架构中，通常存在可以利用的微妙差异来获得更好性能的方法SK hynix 不仅仅在抽象层面上讨论了 AiM 技术，展示了使用两个 FPGA 的 GDDR6 AiM 解决方案的概念验证。AiM 软件堆栈SK hynix 用来验证概念，仍然处于评估阶段，对这种解决方案与传统解决方案进行不同类型的分析。这是一个未来可能发展的方向。
The copyright of this article belongs to the original author/organization.
The views expressed herein are solely those of the author and do not reflect the stance of the platform. The content is intended for investment reference purposes only and shall not be considered as investment advice. Please contact us if you have any questions or suggestions regarding the content services provided by the platform.
Post your comment
No Comments