No.0362
Science Partner
Bring you to the side of
导 读
8月16日,硅谷围绕“人工智能权力集中与监管路径”在社交媒体上发生了激烈交锋的高潮。Anthropic首席执行官达里奥
·阿莫迪罕见在X长文回应质疑并连抛自己对当下AI发展的深度思考。表面上是一场由传闻引发的口水战,实则折射出前沿大模型在算力垄断、国家安全介入与落地瓶颈交织下的深层结构性危机。
他们为什么吵?阿莫迪又惊世骇俗了什么?这对我国AI发展又有什么借鉴?
走,跟伙伴君来!
今日主笔|旻宏
从“治AI病”到“AI治病”:阿莫迪为何把生命科学押为关键战场
这是一场关于人工智能未来格局的争论。
近日在社交平台与播客舆论场被持续发酵。投资机构Atreides Management合伙人加文·贝克在播客中引述多位秘密信源称,Anthropic首席执行官达里奥·阿莫迪曾私下断言, 随着模型能力演进,Anthropic未来可能成为“全球唯一留存的私营公司”,其余权力主体将仅剩主权政府。尽管Anthropic强化学习研究员肖尔托·道格拉斯随后公开斥责该说法纯属捏造且逻辑自相矛盾,但这一传闻迅速在硅谷引发轩然大波。
贝克的目的,是借此提出核心质疑: 面对AI的潜在风险,政策制定究竟是将技术“通过严苛监管集中于少数受控巨头与政客”,还是“最大化分发开源模型以实现生态制衡”。他援引英伟达CEO黄仁勋主导签署的《开放权重与美国AI领导力》公开信以及Hugging Face利用中国公司智谱的开源模型GLM5.2分析外部入侵的案例,力证 技术扩散才是制衡霸权的最优解。
阿莫迪罕见地在社交平台连续发长文予以系统反驳,直斥 “集中与分发”的二元对立是思维陷阱。他指出,硅谷长期将“监管”简化为“设租俘获”与“权力集中”,却忽视了客观规则对普通人和挑战者的制度性保护。在阿莫迪看来,人工智能的中心化倾向并非源于外部监管,而是底层“规模定律”(Scaling Law)对巨额资本、先进制程芯片和海量电力基础设施的刚性依赖所致。即便模型权重完全开源,推理和微调的算力命脉仍牢牢掌握在少数硬件供应商和云平台巨头手中。
01. 监管设想遭遇现实“回旋镖”
这场争论不仅停留在理论推演层面,更被不久前发生的一起标志性行政干预事件推向高潮。
今年6月8日至9日,Anthropic对外发布了Mythos级前沿模型Claude Fable 5与Mythos 5。就在模型上线次日,阿莫迪发表政策长文《Policy on the AI Exponential》,力主赋予联邦政府叫停或撤回不安全前沿模型的法定权力。仅仅两天后的6月12日,美国商务部便以国家安全及出口管制为由,勒令Anthropic在全球范围内紧急暂停向外国国民提供刚发布Claude Fable 5与Mythos 5模型。
据华尔街日报报道,此次行政干预的导火索是亚马逊方面向美国财政部等部门通报,称其研究人员在Fable 5上发现了可用于实施高危网络攻击的越狱漏洞。由于无法在技术上严格区分境外访问者国籍,Anthropic不得不对全球所有用户切断服务。这一临时管制持续19天,至6月30日美国商务部解除出口管制指令,两款模型才恢复全球访问。图灵奖得主扬·勒丘恩(这名字是不是有点陌生,他还有个中文范儿的名字,你肯定知道“杨立昆”)等学者曾在管制期间公开讽刺,认为阿莫迪长期渲染模型危险性的游说策略,某种意义上“反噬”了自身产品。
阿莫迪呼吁“政府应有权阻止不安全部署”的文章感觉就是定点爆破了美国政府,然后这项权力便被实际用在了他自己公司身上。这其实暴露了前沿AI治理的现实复杂性: 一旦技术与国家安全深度捆绑,即便只是临时性措施,监管工具也可能迅速演变为地缘博弈与行政干预的重锤,让前沿实验室在模糊的“国家安全”审查下陷入被动。
02. 研发重心理疗化与信任赤字
在公共沟通层面,阿莫迪承认AI行业当下面临的深刻信任危机。他表示, 公众对AI的抵触并非源于安全警告,而是源于行业长期“画大饼”式的营销与现实落差。阿莫迪表示,整个人工智能产业最无可辩驳的短板,正是“至今仍未真正兑现造福世界的重大承诺”,继续空喊“AI将治愈癌症”已沦为令人厌倦的陈词滥调,行业必须靠真正走进现实的突破自证价值, 特别是在新药研发和医疗健康领域。
这种对生物医药的执着深植于阿莫迪的个人经历。
2006年,其父亲因丙型肝炎去世,而数年后直接抗病毒药物索磷布韦问世,将该病治愈率直接推升至95%以上,这段失去亲人的遗憾使其对“利用AI压缩科研周期”产生了极具个人色彩的紧迫感。 他在近期文章中还呼吁美国食品药品监督管理局(FDA)提前重构审批机制,防止未来AI批量生成的候选药物被传统官僚流程阻塞。
Anthropic在战略层面的转向,其实早已提现在现实层的密集商业布局:今年6月底,Anthropic正式推出整合逾60个专业科学数据库的科研工作台Claude Science,直接切入CRISPR设计、蛋白质结构解析与化学信息学工作流;启动针对冷门与被忽视疾病的内部自主药物研发项目,试图通过全流程实践打通AI辅助制药工具链;引入诺华制药CEO瓦斯·纳拉西姆汗进入董事会,为前沿模型注入顶级跨国药企的研发与合规经验。 这一路径其实与OpenAI推出的ChatGPT Health及企业级医疗解决方案形成全面竞逐。
03. 全球AI治理的深层启示
阿莫迪与贝克的这场论战,为全球各国,特别是我国的人工智能治理框架提供了极具价值的镜鉴。
治理设计应当超越“开源与闭源”的粗放二元对立,转向多维度的分层穿透机制。一方面,我国依托通义千问、DeepSeek等开放权重模型构建了繁荣的创新生态,将开源简单等同于安全漏洞,无疑将挫伤自主技术扩散与产业竞争力;但另一方面,开放权重具备“发布即不可撤销、下游微调易绕过安全对齐”的物理特性,绝不能将其视作免除安全底线责任的“监管真空”。
合理的路径应当如我国《人工智能安全治理框架2.0》所指引:在规则设计上将开源细分为权重、数据、算法与分发权限等多维度,对中小型基础模型设立包容性安全港,对逼近自主网络攻击、生化危险品设计等极端能力的模型实施穿透式红队测试;在技术实现上引入权重完整性签名、漏洞响应及全流程追溯机制;在产业支撑上破除算力壁垒与硬件适配瓶颈,确保开放模型既能有效防范非国家行为者的恶意滥用,又不会沦为少数算力巨头变相垄断的附庸。
其中第三点在这次大洋彼岸社媒论战中表现得尤其明显:破解AI“Power集中”的关键在于算力与基础设施的普惠可及,而非单维度的算法开闭源。模型权重的公开与否并不能自动消除算力霸权,必须同步推进异构芯片协同、国家算力互联网互联互通以及统一推理框架标准的建立,避免技术扩散受制于少数算力提供商。
贝克、阿莫迪看似观点向左,但其实都提示了, 监管的重心亟需从面向公众的Chatbot等应用层面,转向具备实体交互、长期自主执行及前沿科学攻关能力的系统级风险。Fable 5等事件的实践表明, 缺乏清晰、客观技术标准的行政干预也容易对产业生态造成实质冲击。而是 Fable 5这一单一事件也暴露出了,美国现有监管制度面对强模型潜在的手足失措。综上,只有建立程序透明、边界清晰、具备高可预期性的治理制度,才能既遏制恶意非国家行为者的技术滥用,又防止规则异化为固化既有巨头优势、压制新兴力量创新的合规壁垒。
我是旻宏,咱们下期见~
1948年12月21日晚上11点,东条英机被架上绞刑架抛灰入海。