你的位置:tp钱包下载 > tp钱包下载 >

整合长期记忆,AI实现自我进化,探索大模型这一可能性

整合长期记忆,AI实现自我进化,探索大模型这一可能性

地球上最早的生命证据至少可以追溯到 35 亿年前,而直到大约 25 万到 40 万年前,智人才出现地球上。在这漫长的岁月中,生物不断地兴盛又覆灭,但整体趋势总是越来越复杂,其中最复杂的生物组件莫过于我们智人的大脑。这样的复杂性是我们的意识和智慧的来源。而这一切背后的机制是进化(evolution)。

到了现今的大模型时代,强大的基础模型已经展现出了强大的智能水平,能完成多种多样的任务。但它们也有个缺点,训练之后就基本定型了,难以随着用户的使用而演进。但毫无疑问,这项能力很重要。

近日,天桥脑科学研究院和普林斯顿大学等多所研究机构发布了一篇研究论文,tp钱包官网下载详细阐述了长期记忆对 AI 自我进化的重要性,并且他们还提出了自己的实现框架 —— 基于多智能体的 Omne,其在 GAIA 基准上取得了第一名的成绩。

整合长期记忆,AI实现自我进化,探索大模型这一可能性

论文标题:Long Term Memory : The Foundation of AI Self-Evolution 论文地址:https://arxiv.org/pdf/2410.15665

首先,该团队将 LLM 的模型进化过程分成了三个主要阶段

阶段 1:在物理世界中积累认知。 阶段 2:在数字世界中构建基础模型。 阶段 3:模型自我进化,以实现更强大的智能。

整合长期记忆,AI实现自我进化,探索大模型这一可能性

现有的研究主要围绕着阶段 1 和 2,即如何构建更好的数据以及将其用于训练更强大的基础模型。目前人们有一个普遍的看法:在这种曲线拟合范式中,架构并不重要,关键的因素是数据集。但到了阶段 3,架构就会变得和数据一样重要。核心的难题是如何在统计模型的基础上有效表达少数个体的数据。该研究关注的核心是如何确保在统计模型内有效地表达个体数据。