美国五角大楼官员在6月15日提交的一份法庭文件中首次披露,美国政府在针对伊朗的军事行动中使用了马斯克旗下xAI公司开发的Grok人工智能系统,并在96小时内向2000多个目标发射超过2000枚弹药。该文件显示,人工智能已被纳入美军作战与目标筛选流程之中。
文件同时披露,美军调查人员认为,美军很可能在一次对伊朗米纳布地区的打击中误击一所女子小学,造成至少175人死亡,其中大多数为儿童。分析人士及人权官员指出,这是自今年2月美以联军对该国展开军事行动以来最严重的平民伤亡事件之一。
外部分析认为,该事件可能与五角大楼的人工智能目标识别系统有关,该系统用于从海量情报中筛选潜在打击目标,但在执行过程中可能叠加人为失误,包括目标地图未及时更新等问题,从而放大了误判风险。
据悉,相关军事行动由代号“史诗怒火”的计划执行,其目标生成依托美国国家地理空间情报机构的智能分析系统。该系统利用人工智能整合多源情报信息,并以可视化界面呈现,为指挥人员提供决策支持,但并不直接生成最终打击指令。
根据五角大楼首席数字与人工智能官斯坦利的宣誓声明,Grok属于目前四种“可用于国家安全应用”的人工智能模型之一,并且是仅有三种被纳入关键军事任务体系、可在最高机密环境中运行的系统之一。他同时强调,该系统持续运行“事关最高级别国家安全”。
同一声明还涉及对马斯克相关企业的法律争议辩护。美国全国有色人种协进会(NAACP)此前提起诉讼,指控xAI在缺乏许可且未配备污染控制设施的情况下运行至少57台燃气涡轮机,为其“Colossus
2”数据中心供电,违反《清洁空气法》。特朗普政府目前正请求法院驳回该诉讼。
斯坦利表示,该数据中心及相关设施在“武装冲突或紧急情况”下被视为具备提供关键能源增量的能力,被纳入国家安全基础设施考量范围。
与此同时,美国国会多名民主党议员正推动立法,拟限制军方对人工智能的使用,并要求在涉及生死决策时必须由人类最终控制以降低技术失控风险。
