科技与人工智能 · 简讯

欧盟专家组审查人工智能失控事件

欧盟人工智能科学专家组审查近期失控事件,人工智能办公室已收到严重事件报告并启动信息征询。

根据欧盟委员会10月12日公告,人工智能科学专家组审查了近期报告的失控事件。委员会没有公开相关系统或开发者名称,因此现有公开材料不能确定事件的具体范围。人工智能办公室已经收到严重事件报告,并向有关方面发送信息请求。

专家组还讨论了递归式自我改进,以及可能降低模型可监测性的训练方法。建议包括加强内部模型治理、建立欧盟调查能力、开展国际信息共享,并制定共同危机响应要求。这些属于专家建议,不是已经直接适用的新法律。

对匈牙利开发者和部署者而言,文档记录、事件报告、供应商审查和模型变更追踪是主要实际影响。相关背景包括欧盟编程周人工智能技能项目以及大众欧洲技术计划。下一步应关注委员会整合后的问题清单,以及是否公布正式调查结论。

委员会材料承认,目前仍有关键未知信息,因此不能从“失控”一词推断每起事件的严重程度、责任方或实际损害。欧盟层面的调查能力如果建立,还需要明确权限、证据标准和与成员国主管机关的分工。匈牙利机构应先保存日志、版本和供应商通知,为未来报告义务准备可审计记录。

相关文章

Cookie 与隐私

我们始终使用网站运行所必需的 Cookie 和本地存储。统计数据仅在您同意后收集,您可随时通过页脚的“Cookie 设置”撤回同意。 详情: Cookie 政策, 隐私政策.