俄媒：科学家找到消除人工智能“痴呆症”方法

据俄罗斯《消息报》网站11月12日报道，莫斯科工程物理学院专家提出了一种消除所谓人工智能“痴呆症”的独创方法。人工智能“痴呆症”是人工智能在学习新任务时“遗忘”先前所掌握信息的一种典型问题。为了解决它，科学家通过借鉴人类大脑记忆机制开发了一种新型记忆架构。尽管该架构目前仅在计算机模型中完成创建，但研究人员已开始研制在物理层面应用其原理的神经元处理器。

该学院神经元技术实验室高级研究员谢尔盖·洛博夫说：“我们可能已破解大脑的主要谜团之一，它在学习新东西时是如何避免删除旧‘文件’的。一切的关键在于神经连接会不断自我重构，即进行‘重新连线’。正是这一过程将脆弱的短期记忆转化为牢固的长期记忆。”

一些科学家认为，大脑的神经网络与计算机神经网络一样，也按照地图原理工作。

在学习过程中，大脑中会形成“记忆痕迹”，后者类似于森林中被踩出的小径。

但新出现的路径会迅速冲刷旧路径，导致后者变得不再明显。

同样的事情也发生在神经网络内：它在接收信息时会不断重写自己的参数并“遗忘”旧数据。这种在适应新条件时出现的记忆不稳定情况被称为“灾难性遗忘”。

为消除人工智能的这个毛病，莫斯科工程物理学院专家借鉴了人类大脑的工作原理。后者的基础是神经连接重构机制，它与正常学习过程同步进行，能让系统在接受新信息的同时保留旧信息。

洛博夫解释说：“神经网络先在外部信号的干预下学习，神经元之间的连接会得到加强，形成短期记忆。之后外部信号被关闭，人工智能将独自工作。此时，‘重新连线’任务将被启动。系统将自主重建网络结构并将结构图案‘打印’到神经连接地图中。我们将这一过程称为自组织记忆巩固：短期记忆作为稳定的神经网络结构变化被固定下来并转化为长期记忆。”

为检验新记忆架构的有效程度，科学家模拟学习过程并跟踪观察了神经网络在信息丢失前能承受的活动激发次数。普通神经网络在1000次激发后开始“遗忘”数据，而带有连接重构功能的神经网络最多能承受1.7亿次。

人工智能问题专家雅罗斯拉夫·谢利维奥尔斯托夫表示，对需要积累与物体交互经验的自主机器人或经常面临新路况的无人驾驶汽车而言，解决人工智能的遗忘问题至关重要。这是人们在创建真正灵活自主并能像生物一样进化的机器时面临的主要障碍。

这名专家说：“新构架在学习时并非无差别地更新神经网络内的所有连接，而仅是选择性地修改那些权重较低且不携带关键信息的神经键。这类似于我们人类记忆的工作机制，此时新记忆的形成不会破坏旧记忆。新机制据称可将信息记忆保持时间延长数十万倍，这看起来颇具革命性，因为它比现有同类技术的能力高出几个数量级。”

谢利维奥尔斯托夫表示，在工业机器人装备领域，此类系统将帮助人们制造出能在掌握新的零件操作技能的同时不遗忘先前技能的通用机械臂。对无人驾驶汽车和无人机而言，这意味着它们将能不断适应全新道路条件或地形，同时能在无需工程师干预的情况下积累独特经验。

他还认为，在与患者病史同步进化的个性化医学诊断系统中和可灵活适应住户生活习惯的智能住宅中，这种新技术也有广阔应用前景。

俄罗斯国家技术倡议“技术网络”项目市场专家安东·阿韦里亚诺夫说：“普通任务试验结果显示，神经网络使用新记忆构架进行学习时，旧知识得到了100%的保留。不过令人担心的是，目前千亿至万亿参数规模的先进大语言模型或多模态模型中并未大规模应用任何一种在生物学启发下问世的记忆机制。理论上说，这种机制在未来五至十年内就可被集成到那些无需再学习也能长期工作的小型无人机和无人机群中。”