当地时间2日,美国总统特朗普低调签署了行政令,规定科技公司在发布新的人工智能模型前需自愿接受政府的审查,审查时限最长30天。该命令还要求美国财政部长组建人工智能“网络安全信息中心”,负责审查由人工智能模型发现的安全漏洞。
该行政令出台之前,特朗普政府内部已就如何处理人工智能及其影响进行了数月的辩论。原定于5月21日签署的原版行政令规定,审查窗口期最长达到90天。不过,在白宫前人工智能事务主管戴维·萨克斯出面干预后,特朗普最终对行政令签署按下“暂停键”,担心其可能弱化美国在科技领域的竞争力。
有分析认为,特朗普选择低调处理此事,凸显他正在两个对立派别间艰难平衡:一派寻求加强对人工智能模型的监督,另一派则希望扫除人工智能部署的一切障碍。早在前总统拜登时期,人工智能技术对经济和国家安全的影响就曾给政府带来挑战,国会分歧严重,未能通过任何相关立法。
行政令有什么内容?
白宫启动对人工智能模型的正式监督程序,始于今年4月科技公司Anthropic发布其新款AI模型Mythos。该公司称,Mythos能够自主识别主流软件系统中大量此前未被发现的安全漏洞,并能开发出相应攻击手段。政府官员和银行业从业者等人士担心,未来的人工智能模型可能会发现美国敌对势力可以利用的漏洞。
有专家表示,Mythos的出现标志着网络安全能力的一次重大飞跃。尽管该模型能够帮助企业识别自身网络安全计划中的薄弱环节,但不少政府人士担心,这一技术可能被不法分子或黑客利用,进而攻击软件系统中的漏洞。
两位知情人士表示,6月1日,特朗普在白宫召集财政部长贝森特、国防部长赫格塞思以及萨克斯,数人举行了一次私下会议。知情人士称,在白宫将审查时限从90天缩短为30天后,此前持反对意见的萨克斯表示同意,促成了行政命令的签署。
关于网络安全方面的担忧,该行政令要求国土安全部长建立并扩大联邦网络安全项目,以增强人工智能防御能力。同时,行政令还要求财政部长、国防部长、国家安全局局长和国土安全部长与人工智能运营商合作,建立一个用于查找软件漏洞的人工智能网络安全信息中心。
该行政命令还指示司法部长优先起诉涉及人工智能的犯罪,尤其是网络犯罪。与此同时,行政命令要求检察官重点关注利用人工智能代理或自主人工智能系统“非法获取数据或信息”并将其用于犯罪或非法目的的行为。
该行政令在文本中着重强调了人工智能公司与联邦政府合作的自愿性,明确表示无意限制人工智能创新者的技术发展。命令指出:“本节任何内容均不得被解释为,授权政府对新人工智能模型(包括前沿模型)的开发和发布设立强制性许可、预先审批或门槛要求。”
有分析认为,新版草案与原版法令的内容极为接近。特朗普的前人工智能顾问迪恩·鲍尔对草案绝大部分内容得以保留表示惊讶,并担心这将为更繁重的联邦监管程序埋下伏笔。
白宫内部对人工智能监管“态度分化”
特朗普在竞选期间获得了硅谷多位巨头的支持,因此在上任后一直推动减轻人工智能行业的监管负担,以期让本国企业在行业竞争中领先。然而,随着以Mythos为代表的强大模型的发布,以及舆论对不法分子可能利用AI制造生物武器的担忧,本届政府面临着越来越大的监管压力。
在Mythos发布之际,美国公众对人工智能的看法正在恶化,并且越来越担心这项技术将影响就业、能源价格、教育和心理健康。昆尼皮亚克大学3月对成年受访者进行的一项民调显示,55%的受访者认为人工智能技术弊大于利。
“让美国再次伟大”(MAGA)阵营也在不断施压,要求特朗普政府加大对人工智能的监管。今年5月,包括特朗普前顾问史蒂夫·班农和保守派政治组织人士艾米·克雷默在内的右翼人士,以及30多位牧师签署联名信,敦促特朗普对人工智能模型进行强制性审查。他们警告称,这些系统可能危害网络安全,而只依靠科技公司的“自律”是不可信的。
据新华社报道,国际货币基金组织总裁克里斯塔利娜·格奥尔基耶娃4月警告说,全球货币体系尚未做好应对AI风险快速升级的准备。
贝森特曾帮助领导政府对Mythos模型的应对工作。他警告称,新的AI模型可能对金融体系造成严重破坏,敦促银行将人工智能模型整合到网络安全工作中。与此同时,包括国家网络总监肖恩·凯恩克罗斯等在内的官员长期推动对人工智能行业的限制措施,以应对相关技术可能带来的危害。
现任职于美国创新基金会智库的迪恩·鲍尔表示,该行政令对凯恩克罗斯和其他推动加强监管的官员来说是一次重大胜利,而萨克斯等人则希望不惜一切代价加速人工智能模型的部署。
批评人士认为,该行政令远未达到真正监管人工智能系统所需的强制性法规要求,并且赋予了政府灵活执行的余地,不必严格执法。“这是一项力度不足的政策,反映了特朗普政府在AI发展方面制造‘狂野西部’环境的总体模式。”一个专注AI议题的国会议员小组的负责人、弗吉尼亚州民主党众议员唐·拜尔表示。
有报道称,白宫政策的反复加剧了政府内外人士的焦虑,即美国对人工智能快速演进所带来的危险反应过于迟缓。有媒体上个月报道称,摩根大通首席执行官杰米·戴蒙已向贝森特表达了担忧,涉及政府响应速度以及与私营部门协调的必要性。
Mythos扩大接入权限
6月2日,Mythos宣布将把“透明翼计划”扩大到超过15个国家的公司和机构。
该公司4月早些时候表示,由于担心Mythos过于擅长识别网络安全漏洞,不会向公众发布。公司创建了“透明翼计划”,只有包括谷歌、微软、亚马逊云服务(AWS)、英伟达和摩根大通在内的11家机构获得了该模型的访问权限。这些公司全部来自美国,承诺协助为该模型识别出的漏洞开发安全修复程序。
Anthropic还将其提供给了40多家公司和组织,它们目前正在测试该技术并努力加强其系统。除美国外,英国是唯一获得访问权限的国家。其政府支持的英国AI安全研究所对Mythos进行测试后,在上周发布了一份独立评估报告。“这代表了AI网络能力的提升。”英国AI国务大臣卡尼什卡·纳拉扬此前在社交媒体上表示,该国正在采取措施保护“关键国家基础设施”。
获得Mythos接入权限的最新国家包括“五眼”情报联盟中的加拿大、澳大利亚和新西兰等国。据一位知情人士透露,其他国家还包括法国、德国、意大利、瑞士、荷兰、西班牙、比利时、瑞典、印度、日本和韩国。包括美国科技集团Okta、韩国公司三星、SK海力士和SK电讯。欧洲清算银行、纽约证券交易所母公司洲际交易所以及环球银行金融电信协会也在此次扩展范围之内。
6月1日,Anthropic以保密形式向美国证券交易委员会提交了首次公开募股说明书,这一进展领先于竞争对手OpenAI,为其大规模股票发行铺平了道路。《金融时报》报道称,该公司的估值可能超过1万亿美元。
