20家科技巨头签署新协议,能防止人工智能误导民众吗?
创始人
2024-05-19 18:46:43
0

原标题:20家科技巨头签署新协议,能防止人工智能误导民众吗?

界面新闻记者 | 刘子象

界面新闻编辑 | 刘海川

人工智能正在改变这个世界,但是我们将被带往哪个方向令人不安。2024年2月16日,科技界再次被这一技术的新进展搅动。继推出开启人工智能技术新浪潮的聊天机器人ChatGPT之后,OpenAI又发布首个文字生成视频模型Sora,目前可以基于文本直接输出60秒的视频,足以模糊真实和虚构的界限,再次激起全球热议。

同一天,在德国举行的慕尼黑安全会议(MSC)上,20家人工智能相关行业公司签署自愿协议,承诺打击这一新技术生成欺骗性信息扰乱全球选举。

据联合声明,签署方包括了这一领域的主要玩家,比如人工智能模型公司OpenAI、Anthropic和谷歌等,以及可能帮助其传播的社交媒体平台,比如TikTok 、X,以及Facebook和Instagram的母公司Meta等。

值得注意的是,另一个流行的人工智能图像生成器公司Midjourney缺席。截至发稿,这家总部位于旧金山的初创公司没有立即回应媒体置评请求。

迄今签署协议的相关公司名单。

2024年是前所未有的选举年,40多个国家的40多亿人将参加投票。据咨询公司Anchor Change的数据,今年全球预计将举行至少83场大选,这是至少未来24年内最大规模的选举年。

最近几周,孟加拉国、巴基斯坦和印度尼西亚等地民众都参加了投票,美国、俄罗斯、乌克兰、欧洲议会、印度等地也将陆续举行大选。

为了防止人工智能新技术生成的虚假信息被用于政治目的,上述20家公司做出8项具体承诺,这包括:合作开发相关开源工具,以减少涉及选举的欺骗性人工智能生成内容;设法检测此类内容的在线传播情况;推动教育活动,提高公众防范意识和媒体素养等,以培养跨行业抵御此类内容的能力等。

不过,协议承诺的模糊性和缺乏强制约束力被批评者诟病。

美国“两党政策中心”选举项目高级副主任奥雷 (Rachel Orey) 认为协议措辞“并不像人们想象中那么强烈”。

非政府组织“公共公民”执行副总裁吉尔伯特(Lisa Gilbert)表示协议力度“还不够”。她认为为了避免潜在问题,人工智能公司应该在实质性和充分的保障措施到位前,“抑制技术”发展速度,最新发布的文生视频模型令她尤其担忧。

然而,OpenAI的合作伙伴微软则认为在技术进步这一议题上,我们面临的“最基本挑战不在技术本身,而是人性”。微软公司总裁布拉德·史密斯在一份声明中称,总体上来看,最新协议的承诺提高了行业的检测和响应能力,将使不良行为者更难使用合法工具制造误导性内容。

前Facebook数据科学家艾伦(Jeff Allen)对美联社表示协议是“积极的一步”,但他仍然希望社交媒体公司采取其他行动来打击错误信息,比如建立不把用户参与度放在首位的内容推荐系统。

欧盟委员会副主席朱罗娃((Vera Jourová)在慕尼黑安全会议上指出,虽然这个协议并不全面,但它包含了“非常有影响力和积极的元素。”她还敦促政界人士承担起责任,不要以欺骗性方式使用人工智能工具。

人工智能干预选举的现象已经出现。

在美国,上个月新罕布什尔州初选中投票期间,有选民称接收到了模仿美国总统拜登声音的人工智能机器人电话,劝阻他们不要投票。这引发了监管和法律的抵制,美国一些州立法者正在起草法案来规范人工智能生成的政治内容。

在欧洲,2023年11月斯洛伐克大选前几天,人工智能生成的录音冒充一名候选人,讨论提高啤酒价格和操纵选举的计划。录音在社交媒体上传播后,引起当局核查。

政客也开始尝试用这项技术与选民沟通。上周巴基斯坦举行国民议会选举,该国两个前总理伊姆兰·汗以及纳瓦兹·谢里夫双双宣布胜选。正在监狱中的伊姆兰·汗还使用人工智能制作的“真人讲话”视频宣布胜利消息,引发外界关注。自入狱以来,伊姆兰·汗一直用人工智能合成信息与选民沟通。

对于不断推陈出新的这一新技术进展,OpenAI的最大竞争对手Anthrophic表示,人工智能新技术的应用充满了惊喜和意想不到的影响,“我们预计2024年人工智能系统将会出现令人惊讶的用途,这些用途将是开发人员没有预料到的。”

相关内容

大结局要来了?乌方提出无条...
大结局似乎即将来临。乌方出人意料地提出了无条件停火这一诉求,这一消...
2025-05-13 21:44:50
晴霞醉晚风!福州上空现“绝...
晴霞醉晚风,福州上空呈现出一幅“绝美晚霞”的画卷。傍晚时分,天空渐...
2025-05-13 21:42:53
感觉凉飕飕?未来三天,福州...
未来三天,福州的天气仿佛来了个“大反转”。之前那几日的凉爽仿佛被遗...
2025-05-13 21:42:43
队报:尽管需要支付赔偿金,...
据《队报》于当地时间5月12日的报道,勒沃库森有意摩纳哥主帅许特尔...
2025-05-13 21:42:38
舒梅切尔:阿尔特塔是个控制...
最近,在接受ViaPlay采访的时候,传奇门将舒梅切尔对阿森纳主帅...
2025-05-13 21:42:05
名记支招阿隆索:快签克罗斯...
周一,西班牙媒体确认哈维-阿隆索将在6月1日正式执教皇马,并且将率...
2025-05-13 21:41:57
力不从心!掘金的致命短板开...
在赢下系列赛G3之后,外界普遍开始看好掘金能够赢下本轮系列赛,毕竟...
2025-05-13 21:41:47
曼联不敌西汉姆联 现场直拍...
曼联不敌西汉姆联 现场直拍阿莫林场边的反应
2025-05-13 21:41:41
利雅得青年前主席:本泽马专...
北京时间5月12日,利雅得青年前主席塔拉勒-谢赫(طلال آل ...
2025-05-13 21:41:22

热门资讯

玩家必看(小鱼)辅助透视(果然... 玩家必看(小鱼)辅助透视(果然真的存在有挂)外挂透视辅助系统(有挂透明)细致教程(哔哩哔哩)一、小鱼...
推荐给玩家云扑克透明挂软件,(... 推荐给玩家云扑克透明挂软件,(透视)详细使用教程(有挂必备)-哔哩哔哩是一款可以让一直输的玩家,快速...
玩家必看((hhpoker))... 亲(hhpoker)有的,ai轻松简单,又可以获得无穷的乐趣,HH扑克是你和朋友度过闲暇时光的不二选...
121次,赫伊森是本赛季五大联... 据统计,赫伊森是本赛季欧洲五大联赛成功长传次数最多的U21球员。 2024/25赛季五大...
70次,谢尔基是本赛季五大联赛... 据统计,谢尔基是本赛季五大联赛创造机会次数最多的U21球员。 2024/25赛季五大联赛...
181次,赫伊森是本赛季五大联... 据统计,赫伊森是本赛季欧洲五大联赛解围次数最多的U21球员。 2024/25赛季五大联赛...
美国明尼苏达州发生山火,过火面... 美国明尼苏达州近期遭遇了一场严重的山火,其过火面积已超 80 平方公里。熊熊烈焰在这片土地上肆虐,大...
14次,亚马尔是本赛季五大联赛... 据统计,亚马尔是本赛季欧洲五大联赛成功送出直塞球次数最多的U21球员。 2024/25赛...
120次,科波拉是本赛季五大联... 据统计,维罗纳后卫科波拉是本赛季欧洲五大联赛赢得争顶次数最多的U21球员。 202...
胜利9-0狂胜阿科多,本场赛果... 北京时间5月13日 在沙特联第31轮比赛中,利雅得胜利客场9-0狂胜阿科多,马内完成了大四喜。 ...