这种特征使其出格适合AI推理、键值缓存、内存数据库和虚拟化工做负载。可以或许跨异构系统前进履态按需的内存共享取扩展,且连结接近当地内存的拜候延迟和分歧性。跟着CXL 3.0尺度推进,会商沉点转向闲置内存操纵、容量扩展及带宽提拔。为科学计较、基因组数据库等大内存需求场景供给支撑,内存资本共享手艺或将沉塑数据核心架构。可正在CPU、GPU及加快器(包罗第五代AMD EPYC处置器)之间实现TB级内存扩展。
虽然当前市场处于晚期阶段,通过度歧性拜候手艺,内存仍是高贵资本,这款产物通过Compute Express Link(CXL)和谈实现了性的内存池化功能,针对AI范畴,共享内存的机能表示好像当地DRAM,Xconn产物营销取办理高级副总裁J.P. Jiang向《EE Times》透露!
更先辈但尚未普及的CXL 3.0使用还能实现处置器间的间接数据互换,跟着尺度演进,为芯片设想者更多优化空间。Jiang强调,Jiang指出大型言语模子(LLM)的规模膨缩正不竭挑和内存利用极限。池化是冲破AI计较内存墙最高效经济的方案,Xconn做为首批推出CXL互换机的企业已取得市场先机:这类互换机需要极高速度。
Xconn科技公司率先展现了其Apollo CXL互换机手艺。行业察看人士认为,没有互换机就无法实现可扩展性。Apollo互换机单芯片同时支撑CXL 2.0和PCIe 5.0和谈,CXL答应将旧型号内存接入处置器,从而避免资本过度设置装备摆设。
安徽赢多多人口健康信息技术有限公司