数智时代,如何避免被“伪真实”误导
创始人
2026-07-14 11:58:28
0次

当下的网络空间中,认知信任问题已成为基础而紧迫的复杂难题。随着生成式人工智能的大规模应用,互联网信息环境发生翻天覆地的变化,大众网络冲浪的基础环境不仅充斥着大量深度伪造的内容,还存在海量未经甄别审核、带有幻觉问题的生成式文本,让网络空间的信息质量、真实性以及可信度大幅下降,各种信息内容真假难辨,人类认知负荷加重,信任阈值被迫抬升。

学界经常提到后真相时代,指的是在网络传播中,观点、情绪乃至虚假信息的传播速度和广度远超事实真相,使得客观真相被虚假信息遮蔽,最终姗姗来迟。然而,相较于后真相的“虽晚必至”,在数智时代,有时真相可能永远无法抵达。生成式人工智能普及之后,大量未经甄别、自带错误或者幻觉缺陷的生成式文本持续涌入网络传播场域。虚假信息不只是在“掩盖”事实真相,更会以高仿真形态直接“替代”事实真相,形成真假难辨的认知迷雾。对于媒介素养、专业认知能力较弱的群体,这类认知迷雾产生的负面影响不容小觑。

前段时间发生的某自媒体博主为吸粉引流策划盲道被撞的虚假报道,引发同学们热议。为此,在思政课上,我以“真人秀的‘真’到底是什么意义上的真”这一问题为切入点,引导学生思考深度媒介化社会的真实本质。通过对上述话题进行深入讨论,同学们认识到,真人秀的“真”,既不同于物质世界的客观真实,也不同于人类通过理性推理得到的逻辑真实,这种真实介于主观与客观、现实与建构之间:一方面有真实参与者、真实场景等现实基础,另一方面则更多依托观众的情绪期待、节目策划剪辑主观建构而成,是一种兼顾主观与客观、实存与建构的真实,可以谓之“媒介真实”。

如今,我们获取的很多信息,并不是纯粹的客观真实,也不是“眼见为实”的感官真实,而是被各种媒体深度中介化的媒介真实,媒介会深度参与信息的筛选、加工与认知过程。

然而,这些被媒介技术中介化的真实可能存在各种风险。以真人秀为例,节目打着“真”的标签,以真实人物、真实场景为幌子,遮蔽了背后的剧本策划、镜头取舍、后期剪辑、人为引导等加工行为,让观众误以为节目内容是参与者最真实、无修饰的表达。

到了数智时代,类似风险进一步加剧,大语言模型凭借规整的逻辑、流畅的文本、系统化的表述,给用户营造出“专业、真实、可信”的观感,但技术逻辑带来的信任机制,无法完全保证内容的真实性。多数用户默认大模型生成的文本内容真实可靠,却忽略大模型的本质是基于人类现有知识库的概率性预测,并非对客观事实的精准还原,因而可能存在各种幻觉、错误。如果不加甄别地将大模型产生的内容直接纳入认知体系,不仅会促成虚假信息的广泛传播,更有可能混淆价值判断,侵蚀社会共识基础。

大模型的普及,促进了生成式文本的爆发式增长,却并未提供有效的信任技术与之适配,为人工智能生成内容的真实性提供有效担保。

信任的建立始终以“真实”为核心判断标准。面对数智时代的认知信任危机,我们亟须建立一种立体式多元化的信任结构,不仅要突出技术信任的创新作用,还要重视制度信任的保障作用,更要强调人格信任的基础性作用,从而真正走出深度媒介化所构造的认知迷雾。

在思政课上,我与同学们详细探讨了适配于数智时代的信任结构。首先,要以信任技术增强技术信任。数智时代的信任危机,既与大模型本身的不完善有关联,也与缺乏可验证、可追溯、可审计的信任技术体系密切相关。课堂上,我引用了今年央视“3·15”晚会曝光的“数据投毒”案例:生成式引擎优化(GEO)本身是用于优化大模型信息输出、提升信息可信度的正向技术,却因缺乏必要监管,被滥用为掩盖虚假信息的工具。因此,未来,需要构建覆盖模型训练、内容生成、传播分发全链条的信任技术标准,推动形成GEO可信传播机制,让大模型每一次生成的内容都可验证、可追溯、可信任、可担责。

其次,要通过制度信任保障社会信任。社会学家卢曼提出,信任是一种简化机制,可以帮助复杂社会更高效运行。制度信任,日益成为现在社会最重要的信任机制之一,其以协议、契约、法规等制度性文件为依据,为社会行为和信息的真实性兜底。未来,应当将对生成式文本的真实性要求上升为具有约束力的法律原则、监管义务、程序规则和责任后果,强化人工智能生成内容的“打标”要求,普遍建立可信内容标识体系,重塑公众对生成式人工智能的社会信任基础。

最后,要筑牢人格信任的底线。人格信任是人类最原始、最基础的信任机制,也是所有信任的前提。这种基于人格的信任,依赖于长期相处或对专业知识的熟知与推理而形成,深植于人类认知心理结构之中。

面对数智时代的信任危机,个体尤其需要依托人格信任,构筑稳定的信任结构,筑牢个人信息甄别、真伪判断的底层根基。面对互联网海量信息,要学会不盲从、不轻信,善于运用理性思维与专业知识进行甄别核查,精准识别错误、虚假信息或谣言,避免被媒介技术建构的“伪真实”误导。

在思政课堂上讲深、讲透信任的社会结构,能够引导学生对数智时代的信任危机形成更系统、深刻的认知,帮助他们提升识别错误或虚假信息的能力。在课后作业和反馈中,很多同学结合生活实例,深入探讨了媒介真实的好处与弊端,明确面对网络信息尤其是生成式文本必须保持严谨审慎、主动甄别、理性判断的态度。

这套关于信任的解释体系,为破解认知信任危机、重建适配数智时代的认知信任结构,提供了切实可行的解决方案。

(作者系复旦大学马克思主义研究院副院长、副教授)

李凌来源:中国青年报

2026年07月13日 07版

相关内容

新浪斯诺克热点小时报丨20...
  1、丁俊晖的母亲陈习娟:辛苦抚养儿子成才,最终还没享福就去世了...
2026-11-09 17:48:14
新浪动漫热点小时报丨202...
  1、Gemini能做15秒视频了,这5种玩法挺有意思  (来源...
2026-11-09 17:48:12
新浪冬奥热点小时报丨202...
  1、以一敌三单挑韩国夺冠!中国又一天才横空出世,16岁少年惊艳...
2026-11-09 17:48:09
新浪文旅热点小时报丨202...
  1、好评中国丨潮起金秋,文旅体商融合拓展内需空间  北京学子到...
2026-11-09 17:48:04
新浪巴塞罗那热点小时报丨2...
  1、体坛联播|巴萨逆转马竞领跑西甲,曼联维拉上演进球大战  来...
2026-11-09 17:48:02
新浪汽车热点小时报丨202...
  1、乘联分会:车市“金九银十”已基本消失  每经记者|孙桐桐 ...
2026-11-09 17:47:58
新浪证券热点小时报丨202...
  1、ST龙大实控人戴学斌被证监会立案 股价高位华泰证券喊买  ...
2026-11-09 17:47:56
新浪黄金市场热点小时报丨2...
  1、重视贵金属的布局机会  (来源:纪要研报地)Q: 美国中期...
2026-11-09 17:47:54
新浪美股热点小时报丨202...
  1、都怪黄仁勋  来源:寻瑕记阅前提示:本文仅为市场观察记录,...
2026-11-09 17:47:53

热门资讯

新浪券商热点小时报丨2026年...   1、香港银证直连合作接连调整 多家银行暂停部分券商银证转账服务  上证报中国证券网讯(记者 徐潇...
新浪NBA火箭热点小时报丨20...   1、强强对话!ESPN明日胜率预测:火箭高达77.2% 掘金仅22.8%  直播吧11月9日讯 ...
新浪美联储热点小时报丨2026...   1、油价回落缓解通胀压力,美元指数小幅回落  汇通财经APP讯——周一亚洲时段,美元指数在连续两...
新浪NBA常规赛热点小时报丨2...   1、NBA常规赛激战升级 多支强队豪取连胜  詹姆斯在76人对阵公牛一役砍下22分5篮板5助攻,...
新浪NBA爵士队热点小时报丨2...   1、NBA常规赛激战升级 多支强队豪取连胜  詹姆斯在76人对阵公牛一役砍下22分5篮板5助攻,...
新浪NBA森林狼热点小时报丨2...   1、森林狼取胜迎4连胜并送爵士8连败 鲍尔24+5 彼得森新高26+6  来源:直播吧直播吧11...
眉山东坡马拉松观赛指南:东坡故...   眉山东坡马拉松是什么级别的赛事?核心服务信息先看表  2026四川东坡马拉松在眉山东坡故里鸣枪开...
新浪NBA太阳队热点小时报丨2...   1、[小炮APP]竞彩情报:马刺场均盖帽领跑全联盟  马刺(客队)有利情报1. 马刺在过去十场比...
新浪证券热点小时报丨2026年...   1、城堡证券拓展亚洲交易业务:香港办公空间扩大40%增租半层  观点网讯:11月9日,城堡证券计...
新浪国足热点小时报丨2026年...   1、国足:“换血”之后,重在塑魂  记者陈永报道  一套残缺的阵容和一次尴尬的三连败之后,邵佳一...