Dify:Memory Engineering 如何与人类认知对齐|QCon 上海
创始人
2025-09-23 22:25:09
0

如果你也关注 Agent、AI 搜索、多模态、工程化等话题,一定不要错过这 100+ 可落地的实践案例!

10 月 23 日 -10 月 25 日, QCon 全球软件开发大会将在上海举办。本次大会将聚焦 Agentic AI、具身智能、强化学习框架、端侧大模型实践、多智能体协作等热门话题,以及 AI 时代下的软件研发、可观测、开源等技术实践,邀请来自腾讯、阿里、字节跳动、华为、蚂蚁集团、小红书等企业的技术专家,和来自清华大学、北京邮电大学、浙江大学的顶尖高校讲师,和你一起重构技术认知与能力边界!

Dify 架构师周宇已确认出席并发表题为 Dify:Memory Engineering 如何与人类认知对齐的主题分享。 Agent 的 Memory 问题一直都是 Agentic AI 的路上无法避免的话题,但是主流解决方案都在尝试用封闭域的解决方案解决开放域的问题,往往会导致人与 Agent 的上下文鸿沟,Agent 不知道什么是重要的,什么是用户需要的,什么是应该疑问的,Dify 将使用一套合理的产品设计来保持人与 Agent 的对齐。

周宇,Dify Agent / Sandbox / Plugin / Memory 架构师,Dify 第一版 Agent 工程师,设计了全套 Dify 插件机制,负责 Sandbox 与 Dify 系统安全设计。她在本次会议的详细演讲内容如下:

演讲提纲

几乎所有熟悉 LLM 的人都会碰到下面这些很麻烦的问题:

  • N 轮对话过后模型记不得自己说了什么,忘了用户要求过什么。

  • 一个任务模型执行了一次失败了结果两分钟过去它又跑一次,始终跑不对。

一切的问题根源来自于 Transformer 最开始无状态的设计:

  • 全量的、事无巨细的一切内容都被保留,从而便于模型玩成语接龙

  • 没有一个和 Messages 分离的 状态 可以保存高度浓缩的精华,就算有也难以修改

但是什么是重要的?什么是可以被丢弃的?什么时候又该更新记忆?似乎太过于主观:

  • 模型自身本来就存在于人类意志不对齐的情况

  • 人与人之前的信息不对齐也是常态,这在管理学中是一个复杂的系统工程

如果将一切的判断交给模型,难免会出现用封闭域的解决方案去套开放域的问题这类通用方案的旧病,模型是服务于人类的,需要时刻与人类保持意见对其,因此,需要有一种方案可以让用户决定这些背后的细节。

设计理念

  • 选择交给用户,不要将过多的未知数留给模型,避免去解决开放域的问题

  • 需求驱动,在用户不使用帮助文档的情况下可以理解,带着需求来就可以理解每个每个细节的作用

您认为,这样的技术在实践过程中有哪些痛点?

  • 会给用户带来一定的心智负担,任何任务的复杂性都不会消失只会转移,但人类应该明确自己的需求,并时刻保持与模型的上下文的对齐

演讲亮点

  • 避免了使用封闭域的解决方案解决开放域的问题

  • 高度保持与用户的认知对齐

    听众收益

    • 了解当前行业内的 Memory 进展

    • 了解 Dify 在 Memory 的未来方向

    • 认识到 Memory 背后不可忽视的工程复杂度与设计哲学

    除此之外,本次大会还策划了 多模态融合技术与创新应用、混沌工程与全链路压测实践、Data Infra for AI、Agentic AI、加速与反哺:AI 时代的可观测实践、Vibe Coding、端侧大模型的创新与应用、大模型推理的工程实践、AI 搜索技术的深水区、模型训练与微调、具身智能:当 AI 学会“动手思考”、大模型驱动的制造革命、AI4SE:软件研发提质增效实践、AI 重塑视觉创作体验、从“炫技”走向“实用”的 AI 产品、大模型驱动的智能数据分析等 20 多个专题论坛,届时将有来自不同行业、不同领域、不同企业的 100+ 资深专家在 QCon 上海站现场带来前沿技术洞察和一线实践经验。

    相关内容

    原创 ...
    604年那场宫变的核心人物,其实从来不是杨坚。 仁寿宫变是604年...
    2026-04-10 06:45:16
    刘备不出手,张飞独战于禁,...
    北海救孔融后,于禁奉曹操之命讨击刘备,阵前与张飞交手未及数合,刘备...
    2026-04-10 06:42:00
    历史上的今天 | 中国现代...
    林徽因(1904年6月10日-1955年4月1日),原名“徽音”,...
    2026-04-10 06:41:51
    甄嬛能笑到最后,不是因为她...
    甄嬛传看了十几遍,我越来越觉得,甄嬛这个人最厉害的本事,不是聪明,...
    2026-04-10 06:40:21
    花脚大仙分享:《壁上万千—...
    壁上万千 ——山西宋金壁画中的众生气象之八 南山博物馆特展系列 花...
    2026-04-10 06:39:53
    原创 ...
    第一章:引言 二战结束后,许多美国士兵在日本遇见了当地的女性,二者...
    2026-04-10 06:36:09
    半场战报:乌迪内斯0-0科...
    北京时间4月6日,意大利足球顶级联赛第31轮展开较量,乌迪内斯坐镇...
    2026-04-10 06:33:16
    原创 ...
    在更遥远的远古时代,女性的自由似乎比任何时期都要充盈。然而,现实往...
    2026-04-10 06:32:16
    胡宗南:你们笑话我是草包,...
    抗美援朝时期,胡宗南在看到彭老总将美国为首的联合国军打得接连溃退的...
    2026-04-10 06:30:47

    热门资讯

    伊朗:一项议会提案将永久禁止与... 财联社4月10日电,一名伊朗高级议员表示,一项议会提案将永久禁止与美国和以色列有关联的油轮通过霍尔木...
    因彩礼谈崩分手后男方坠亡,家属... 央广网北京4月10日消息(记者费权)2025年7月14日凌晨,新疆乌鲁木齐的一声坠楼声,终结了37岁...
    王毅是否会与金正恩会面?外交部... 4月10日,外交部发言人毛宁主持例行记者会。 有记者提问,今天是王毅外长访问朝鲜的第二天。他是否会与...
    融资30亿的编程猫如何从学霸创... 近期,少儿编程赛道头部品牌编程猫发布新闻通稿称其获得了国际权威咨询机构弗若斯特沙利文(Frost &...
    中方如何评价当前中国和白俄罗斯... 4月10日,外交部发言人毛宁主持例行记者会。 白俄罗斯国家广播电视台记者提问,中方如何评价当前中国和...
    鲜花如何带上火车?洛阳:这题我... 4月1日 第43届中国洛阳牡丹文化节 在隋唐城遗址植物园开幕 来自全国各地的旅客 纷纷到此赏花观景 ...
    原创 普... 普京正式宣布停火32小时的消息刚传来,瞬间让人看清两场冲突的本质差别。中东那边刚官宣停火,还没熬过2...
    通行效率提升50%,清远“蓝道... 交通拥堵在很多城市都是亟待解决的民生问题。 近日,广东清远创新推行了“蓝道过街”模式。蓝道是谁的路?...
    中小学如何放好春秋假 “春生夏长,秋收冬藏,此天道之大经也。”万物生长自有其律,人之成长亦然。2026年政府工作报告指出,...