【两个最新核弹】：第一个是最新GPU H200，比前一代H100提升内存达到惊人的1.1TB，采用最新技术HBM3e，也就是高带宽内存，首先把DRAM内存用3D封装技术叠起来，把它和CPU芯片放到一个GPU底板上，之间通信过这块晶元直接做，内存容量大提，同时与GPU的信速显著长，达到每秒4.8TB，所有软件得到优化，使ChatGPT模型推理度比A100提高18倍。第个是CPU和GPU合体，Grace Hopper GH200，把ARMCPU和GPU封在同块晶圆板上，使CPU和GPU之间传速度常快，而且可以共享内存达到惊人的624GB，上有72个ARM计算核，跟X86芯片相比提了100倍，功耗却只有1/2。