10月20日,记忆张量(上海)科技有限公司正式推出并开源记忆原生基础模型MemT 1.0系列。MemT 1.0将持续存在、能够更新的内部记忆纳入模型计算,让历史信息与任务经验能够被保留,并在后续相关任务中调用。本次发布包括MemT-1.0-Flash与MemT-1.0-Nano,参数规模分别为288B、36B,激活参数分别为17B、3B。
业内人士认为,过去几年,大模型的发展主要围绕模型规模、训练数据、推理能力、多模态能力和上下文长度展开,但当AI开始承担跨时间、跨任务和跨系统的工作时,仅仅完成单次生成和推理已经不够。记忆与推理需要被放在同一套系统结构中考虑——推理负责处理当前问题,记忆负责维持历史状态、沉淀经验并为后续任务提供连续性。
公司表示,记忆原生模型的固定容量记忆需要在保留早期细节与接纳新信息之间权衡,精确信息的长期保真仍是挑战。当前经验应用还依赖外部经验构建和检索,尚未形成自主获取、验证并持续整合经验的完整闭环。下一步,公司将提升长期记忆、扩展记忆容量,并降低记忆更新成本;还将进一步探索自主获取经验,以及跨任务持续整合记忆,逐步迈向能够通过记忆原生演进、从交互中学习的智能体。
(文章来源:中国证券报·中证金牛座)
文章来源:中国证券报·中证金牛座
原标题:记忆张量正式推出并开源记忆原生基础模型MemT 1.0系列
