2026年端侧AI产业正迎来规模化落地的关键窗口期。随着AI PC、智能体主机等终端设备加速普及,本地大模型运行需求呈指数级增长。但行业普遍陷入"硬件堆砌"的困局——通过单纯扩容DRAM内存支撑AI推理,不仅导致成本高企,更难以应对MoE架构下参数膨胀与缓存冗余带来的性能瓶颈。江波龙作为深耕存储领域十余年的半导体企业,创新性推出AISSD™专用固态硬盘,以软硬协同的全新范式重构端侧AI资源调度逻辑,为行业破解内存依赖、推理卡顿等核心痛点开辟新路径。
iSA™存储智能体:动态卸载降低内存占用
传统固态硬盘被动存储数据的模式,在面对大模型参数规模暴增时显得力不从心。江波龙研发的iSA™存储智能体,作为AISSD™产品的软件中枢,通过动态专家卸载机制实现革命性突破。该技术针对MoE架构下低频专家参数占用内存过高的问题,创新采用"冷热分离"策略:将非活跃模型参数从DRAM迁移至固态硬盘存储空间,在保持高频计算效率的同时减少30%以上的常驻内存占用。据公开信息显示,iSA™引擎还搭载智能缓存管理模块,能实时识别多轮对话场景中冗余的KVCache数据,通过分层清理机制将缓存利用率提升至85%,显著降低长文本生成时的推理延迟。
在技术实现层面,iSA™与SPU(存储处理单元)形成深度协同。该引擎无需占用主机CPU算力即可完成调度任务,在后台静默运行状态下仍能保持每秒百万级数据迁移能力。这种"软件调度+硬件执行"的闭环方案,使AISSD™在消费级设备中可实现20GB内存容量下流畅运行397B参数量模型,为轻量化终端设备释放出宝贵算力资源。
SPU™硬件赋能,全场景适配终端设备
SPU™存储处理单元作为AISSD™的硬核支撑,通过三大核心技术突破实现性能跃升。其内置的HLC高级缓存技术可智能识别端侧AI运行中的冷热数据特征,在保持毫秒级响应速度的同时将非实时运算数据下沉至固态硬盘。配合硬件级无损压缩算法,SPU™能以2:1的平均压缩比提升存储利用率,使单块3.5TB SSD在部署大模型时节省约70GB物理空间。
这种软硬协同架构赋予AISSD™极强的场景适配能力。据业内观察显示,在搭载AMD锐龙AI Max+ 395处理器的智能体主机上,通过iSA™与SPU™联合调优后,可实现397B超大模型在256K上下文长度下的本地部署。此时DRAM占用量较传统方案降低约40%,同时保持每秒150 tokens以上的推理速度。目前该产品已形成标准化解决方案,既满足AIPC、AI Agent Host等消费级设备的智能运算需求,也可为工业终端提供定制化存储服务。
AMD联合调优实现超大模型本地部署
江波龙与AMD的合作将端侧AI落地推向新高度。基于锐龙AI Max+ 395处理器的智能体主机平台,双方通过深度联合调优实现397B参数量超大模型在256K上下文长度下的本地部署。这标志着端侧AI设备不再局限于轻量化模型应用,在保持低功耗特性的同时突破了算力天花板。
据公开测试数据显示,在122B参数规模的长文本生成场景中,搭载AISSD™的终端设备相较传统方案DRAM占用降低38%,推理延迟缩短至0.6秒。这种性能跃升源于SPU™对模型文件和缓存数据的实时压缩处理能力,配合iSA™引擎的智能调度策略,使硬件资源利用率提升至92%。目前该技术已形成完整解决方案,在消费电子、工业控制等多领域实现规模化应用。
在端侧AI产业加速渗透的当下,江波龙通过AISSD™构建起存算协同的新范式。这种以软件引擎驱动硬件创新的技术路线,不仅破解了行业普遍面临的内存依赖难题,更通过SPU™芯片级优化实现了性能与成本的平衡。未来随着调度算法持续迭代和多芯片平台适配推进,端侧AI部署门槛有望进一步降低,为人工智能产业的规模化发展注入新动能。