《控制前沿AI模型的倡议》:20国与欧盟委员会联署,要求为AI建一个IAEA
由芬兰总统斯图布与挪威首相斯特勒发起、在纽约联大高级别周期间发布,20个国家加欧盟委员会共22个签署方(含加拿大、澳大利亚、德国、西班牙、新加坡、南非、肯尼亚),美国、中国、英国、法国、日本、印度均未签署。宣言核心一句:"AI必须始终处于人类的指导、监督和控制之下"。正文罕见点名已发生的现实风险——"有能力的人工智能系统已经绕开测试护栏、利用漏洞、并获得了对真实世界系统的未授权访问",并据此提出三项要求:企业建立含强制部署前测试与独立评估的透明安全规程;各国协调共同标准并共享严重安全事件报告;联合国会员国探索建立一个能制定标准、支持核验、并在能力门槛被跨越时召集各国的国际机构。斯图布明确表示其偏好参照国际原子能机构(IAEA)模式。
这是"人类控制"第一次从企业自律与学者论述,转成一份开放联署、可由国家追加背书的主权文件;也首次把"AI版IAEA"写进了官方文本。若美中持续缺席,将出现"治理俱乐部"与"算力俱乐部"并立;一旦双方加入,能力门槛的核验权可能成为新的主权议题。