Dify:Memory Engineering 如何与人类认知对齐|QCon 上海
创始人
2025-09-23 22:25:09
0

如果你也关注 Agent、AI 搜索、多模态、工程化等话题,一定不要错过这 100+ 可落地的实践案例!

10 月 23 日 -10 月 25 日, QCon 全球软件开发大会将在上海举办。本次大会将聚焦 Agentic AI、具身智能、强化学习框架、端侧大模型实践、多智能体协作等热门话题,以及 AI 时代下的软件研发、可观测、开源等技术实践,邀请来自腾讯、阿里、字节跳动、华为、蚂蚁集团、小红书等企业的技术专家,和来自清华大学、北京邮电大学、浙江大学的顶尖高校讲师,和你一起重构技术认知与能力边界!

Dify 架构师周宇已确认出席并发表题为 Dify:Memory Engineering 如何与人类认知对齐的主题分享。 Agent 的 Memory 问题一直都是 Agentic AI 的路上无法避免的话题,但是主流解决方案都在尝试用封闭域的解决方案解决开放域的问题,往往会导致人与 Agent 的上下文鸿沟,Agent 不知道什么是重要的,什么是用户需要的,什么是应该疑问的,Dify 将使用一套合理的产品设计来保持人与 Agent 的对齐。

周宇,Dify Agent / Sandbox / Plugin / Memory 架构师,Dify 第一版 Agent 工程师,设计了全套 Dify 插件机制,负责 Sandbox 与 Dify 系统安全设计。她在本次会议的详细演讲内容如下:

演讲提纲

几乎所有熟悉 LLM 的人都会碰到下面这些很麻烦的问题:

  • N 轮对话过后模型记不得自己说了什么,忘了用户要求过什么。

  • 一个任务模型执行了一次失败了结果两分钟过去它又跑一次,始终跑不对。

一切的问题根源来自于 Transformer 最开始无状态的设计:

  • 全量的、事无巨细的一切内容都被保留,从而便于模型玩成语接龙

  • 没有一个和 Messages 分离的 状态 可以保存高度浓缩的精华,就算有也难以修改

但是什么是重要的?什么是可以被丢弃的?什么时候又该更新记忆?似乎太过于主观:

  • 模型自身本来就存在于人类意志不对齐的情况

  • 人与人之前的信息不对齐也是常态,这在管理学中是一个复杂的系统工程

如果将一切的判断交给模型,难免会出现用封闭域的解决方案去套开放域的问题这类通用方案的旧病,模型是服务于人类的,需要时刻与人类保持意见对其,因此,需要有一种方案可以让用户决定这些背后的细节。

设计理念

  • 选择交给用户,不要将过多的未知数留给模型,避免去解决开放域的问题

  • 需求驱动,在用户不使用帮助文档的情况下可以理解,带着需求来就可以理解每个每个细节的作用

您认为,这样的技术在实践过程中有哪些痛点?

  • 会给用户带来一定的心智负担,任何任务的复杂性都不会消失只会转移,但人类应该明确自己的需求,并时刻保持与模型的上下文的对齐

演讲亮点

  • 避免了使用封闭域的解决方案解决开放域的问题

  • 高度保持与用户的认知对齐

    听众收益

    • 了解当前行业内的 Memory 进展

    • 了解 Dify 在 Memory 的未来方向

    • 认识到 Memory 背后不可忽视的工程复杂度与设计哲学

    除此之外,本次大会还策划了 多模态融合技术与创新应用、混沌工程与全链路压测实践、Data Infra for AI、Agentic AI、加速与反哺:AI 时代的可观测实践、Vibe Coding、端侧大模型的创新与应用、大模型推理的工程实践、AI 搜索技术的深水区、模型训练与微调、具身智能:当 AI 学会“动手思考”、大模型驱动的制造革命、AI4SE:软件研发提质增效实践、AI 重塑视觉创作体验、从“炫技”走向“实用”的 AI 产品、大模型驱动的智能数据分析等 20 多个专题论坛,届时将有来自不同行业、不同领域、不同企业的 100+ 资深专家在 QCon 上海站现场带来前沿技术洞察和一线实践经验。

    相关内容

    滑雪场联盟2025—202...
    冬日的暖阳洒满雪域赛场,银装素裹的天地间回荡着逐梦的号角。12月2...
    2025-12-26 19:13:13
    原创 ...
    就在前两天,一盘棋,下了340多手,中国一个03年出生的小伙子,硬...
    2025-12-26 19:11:57
    10万元补助!福州市5家劳...
    福州新闻网12月26日(记者 李白蕾)近日,中华全国总工会办公厅公...
    2025-12-26 19:10:13
    原创 ...
    在我国古代,普遍存在多子多福和重男轻女的传统生育观念,而这种观念在...
    2025-12-26 19:02:56
    原创 ...
    朱棣一辈子打了无数硬仗,靖难之役靠自己拼出皇位,五伐漠北亲自带兵冲...
    2025-12-26 19:02:40
    原创 ...
    **前言** 武王打败了商朝,结束了商朝的暴政,华夏民族迎来了新的...
    2025-12-26 19:02:30
    原创 ...
    在清朝末期的动荡时代,国家内忧外患,百姓苦不堪言。一方面,农民起义...
    2025-12-26 19:02:14
    澳门大三巴牌坊,真的只是一...
    你肯定在无数明信片和旅游宣传片上见过它。那堵孤零零矗立在高台上的石...
    2025-12-26 18:58:53
    黄山:云海之上的千年守望
    凌晨三点,黄山脚下汤口镇的气温只有8摄氏度。我裹紧外套,跟随早起的...
    2025-12-26 18:58:52

    热门资讯

    (补充通知)县道X246东城至... 县道X246东城至茶山断头路工程 补遗书第1号 致投标人: 《县道X246东城至茶山断头路工程》招标...
    俄外交部门的美国间谍,被控叛国... 综合俄新社、国际文传电讯社12月26日报道,莫斯科市法院以叛国罪判处俄外交部前雇员阿尔谢尼·科诺瓦洛...
    最新小鹏X9超级增程答用户问:... 【CNMO科技消息】12月26日,小鹏汽车发布《小鹏X9超级增程答用户问第五期》。本期涵盖“空调如何...
    四川加大婚假执行力度,用人单位... 封面新闻记者 赵奕12月26日,四川省人力资源和社会保障厅发出通知,要求各市(州)加大职工婚假规定执...
    (澄清公告)县道X246东城至... 投标人问:招标文件中P14-3.2.1-工程量清单的格式填写(1)中提到,投标报价的所有单价取小数点...
    原创 红... 红楼梦第二回,林如海的夫人贾敏去世,年幼的女儿林黛玉守丧尽哀。黛玉的老师贾雨村想要辞馆别图,被林如海...
    告别技术狂欢后,科技企业如何穿... 我们正进入一个超级技术时代。 回望整个2025,几乎所有人的情绪都曾被AI感染过。 从年初DeepS...
    原创 超... 这届世界棋仙战简直像坐过山车! 中国队首日上午直接打了韩国一个4比0,丁浩、王星昊、杨楷文,还有中国...