楼主
发表于2023-10-01 12:43:40回复0浏览 7
●“内存中计算”或称为SK hynix AiM 在GDDR6内存中，每个内存块都有自己的1GHz处理单元，能够提供512GB/s的内部带宽。 在内存中进行矩阵-向量乘法（GEMV）以进行人工智能计算，权重矩数据来自内存块，而向量数据来自全局缓冲区。 内存中的AiM使用特的内存命令进行计算。 存的扩展性，以及型语言模型需的存中AiM计算资。 使用这种AiM的情况下，主要挑战是需要在软件端进映射，为AiM设计硬件架构，然后提接口，这是采用这种技术另一主要障碍。 研究如何将问题映射到AiM 统架构需要够处理规模和扩性 AiM架构的关键组件包括AiM控制器、可扩多播互连、由器、计算元（ALU）和指令序列控制器。 矩向量累积函数对人工智能工作负至关要，AiM使用一种类似CISC的指令集来管理这些函数。 优：在的架构中，常存可以利用的微妙差来获得更好性能的方法 SK hynix不仅仅在抽象层上讨论了AiM技术，展示了使两个FPGA的GDDR6 AiM解决方案概念验证。 AiM软件堆栈 SK hynix用来验证概念，仍然处评估阶段，对这种解决方案与传解决方案进不同类型的析。这是一未来可能发的方向。
