Dify:Memory Engineering 如何与人类认知对齐|QCon 上海
创始人
2025-09-23 22:25:09
0

如果你也关注 Agent、AI 搜索、多模态、工程化等话题,一定不要错过这 100+ 可落地的实践案例!

10 月 23 日 -10 月 25 日, QCon 全球软件开发大会将在上海举办。本次大会将聚焦 Agentic AI、具身智能、强化学习框架、端侧大模型实践、多智能体协作等热门话题,以及 AI 时代下的软件研发、可观测、开源等技术实践,邀请来自腾讯、阿里、字节跳动、华为、蚂蚁集团、小红书等企业的技术专家,和来自清华大学、北京邮电大学、浙江大学的顶尖高校讲师,和你一起重构技术认知与能力边界!

Dify 架构师周宇已确认出席并发表题为 Dify:Memory Engineering 如何与人类认知对齐的主题分享。 Agent 的 Memory 问题一直都是 Agentic AI 的路上无法避免的话题,但是主流解决方案都在尝试用封闭域的解决方案解决开放域的问题,往往会导致人与 Agent 的上下文鸿沟,Agent 不知道什么是重要的,什么是用户需要的,什么是应该疑问的,Dify 将使用一套合理的产品设计来保持人与 Agent 的对齐。

周宇,Dify Agent / Sandbox / Plugin / Memory 架构师,Dify 第一版 Agent 工程师,设计了全套 Dify 插件机制,负责 Sandbox 与 Dify 系统安全设计。她在本次会议的详细演讲内容如下:

演讲提纲

几乎所有熟悉 LLM 的人都会碰到下面这些很麻烦的问题:

  • N 轮对话过后模型记不得自己说了什么,忘了用户要求过什么。

  • 一个任务模型执行了一次失败了结果两分钟过去它又跑一次,始终跑不对。

一切的问题根源来自于 Transformer 最开始无状态的设计:

  • 全量的、事无巨细的一切内容都被保留,从而便于模型玩成语接龙

  • 没有一个和 Messages 分离的 状态 可以保存高度浓缩的精华,就算有也难以修改

但是什么是重要的?什么是可以被丢弃的?什么时候又该更新记忆?似乎太过于主观:

  • 模型自身本来就存在于人类意志不对齐的情况

  • 人与人之前的信息不对齐也是常态,这在管理学中是一个复杂的系统工程

如果将一切的判断交给模型,难免会出现用封闭域的解决方案去套开放域的问题这类通用方案的旧病,模型是服务于人类的,需要时刻与人类保持意见对其,因此,需要有一种方案可以让用户决定这些背后的细节。

设计理念

  • 选择交给用户,不要将过多的未知数留给模型,避免去解决开放域的问题

  • 需求驱动,在用户不使用帮助文档的情况下可以理解,带着需求来就可以理解每个每个细节的作用

您认为,这样的技术在实践过程中有哪些痛点?

  • 会给用户带来一定的心智负担,任何任务的复杂性都不会消失只会转移,但人类应该明确自己的需求,并时刻保持与模型的上下文的对齐

演讲亮点

  • 避免了使用封闭域的解决方案解决开放域的问题

  • 高度保持与用户的认知对齐

    听众收益

    • 了解当前行业内的 Memory 进展

    • 了解 Dify 在 Memory 的未来方向

    • 认识到 Memory 背后不可忽视的工程复杂度与设计哲学

    除此之外,本次大会还策划了 多模态融合技术与创新应用、混沌工程与全链路压测实践、Data Infra for AI、Agentic AI、加速与反哺:AI 时代的可观测实践、Vibe Coding、端侧大模型的创新与应用、大模型推理的工程实践、AI 搜索技术的深水区、模型训练与微调、具身智能:当 AI 学会“动手思考”、大模型驱动的制造革命、AI4SE:软件研发提质增效实践、AI 重塑视觉创作体验、从“炫技”走向“实用”的 AI 产品、大模型驱动的智能数据分析等 20 多个专题论坛,届时将有来自不同行业、不同领域、不同企业的 100+ 资深专家在 QCon 上海站现场带来前沿技术洞察和一线实践经验。

    相关内容

    重庆代表队在全国第十二届残...
    9月22日,全国第十二届残疾人运动会暨第九届特殊奥林匹克运动会(以...
    2025-09-23 12:53:56
    “桦加沙”即将登陆,广东江...
    为应对超强台风“桦加沙”,9月23日19时起,广东江门全市交通运输...
    2025-09-23 12:49:14
    北京旅游5天4夜多少钱,和...
    北京,这座古老而又充满活力的城市,宛如一颗璀璨的明珠镶嵌在华夏大地...
    2025-09-23 12:39:40
    运城河东美食荟开启!打造舌...
    打造舌尖上的欢乐盛宴 运城河东美食荟开启 作为本届关公文化旅游节的...
    2025-09-23 12:39:14
    看重庆秋日的限定浪漫
    经过了“立秋”、“处暑”、“白露”,转眼间已经到了秋季的第四个节气...
    2025-09-23 12:37:22
    贺兰山麓,万年史诗与光影传...
    “十一”黄金周即将到来,银川以其独特的历史文化和自然风光,为人们敞...
    2025-09-23 12:36:59
    旅游出生公证费用
    2025-09-23 12:36:30
    原创 ...
    今年休赛季,赵继伟最引人注目的话题无疑是他常去打高尔夫球。尤其在遭...
    2025-09-23 12:35:24
    潮汕国庆旅游跟团全指南,潮...
    潮汕五日慢行记:在烟火与海风之间 说来惭愧,我对潮汕的初印象,不过...
    2025-09-23 12:33:47

    热门资讯

    原创 孙... 《西游记》里有一段颇让人玩味的情节。枯松涧一战,红孩儿火焰烧空,孙悟空被烧得无计可施,只得跑到南海请...
    哈维尔谈执教国足优势:我能让球... 哈维尔谈执教国足优势:我能让球员放下包袱 发挥出最好的水平
    蓉城比赛日vlog:读秒绝平申... 蓉城比赛日vlog:读秒绝平申花 捍卫榜首!
    日本政府为福岛核污染土“取新名... 日本媒体23日报道,日本环境省22日就福岛核事故后产生的核污染土处置方案召开专家会议,计划将放射性相...
    比赛日Vlog:海港3-2客胜... 比赛日Vlog:海港3-2客胜国安
    “桦加沙”来袭 为何台风来临前... 今年第18号台风“桦加沙”已加强成为超强台风级并逐渐逼近广东。气象部门预测,未来24小时内“桦加沙”...
    以多形态机器人领跑“具身工业”... 当工业自动化进入“柔性生产” 下半场,单一功能机器人已难以满足高精度协作、多场景适配与跨设备协同的需...
    马王堆美食如何“破圈”?专家学... 座谈会现场 李梓潇 摄 华声在线9月23日讯(全媒体记者 张鼎峰)9月23日,马王堆美食文化座谈会在...