请选择 进入手机版 | 继续访问电脑版
Mozilla

火狐社区

登录    注册

QQ互联

Mozilla 提交意见书,回应欧盟委员会新 AI 草案的公开征询

yingliu Mozilla员工 发表于 2020-7-10 10:22:30 | 显示全部楼层 |阅读模式 [复制链接]
0 4364
Pasted-image.jpg

作者:Mozilla 欧盟公共政策领导人 Raegan MacDonald

欧盟即将在今年第四季提出全球首创的一般性 AI 法规。虽然诸多定义尚待理清,但欧盟希望通过制定此法,针对其所认定之「高风险」AI 应用明订相关规则与法律义务。在欧盟拟定规范前,Mozilla 已向委员会提交意见书,就新法制定方式提出建言与指引。此意见书汇整了 Mozilla 于开放创新与工程科技领域多年累积的见解,以及 Mozilla 基金会在欧洲推动「值得信赖的 AI」(trustworthy AI)工作的经验与心得。

我们认同委员会在策略中所阐述之建立「以人为本」的 AI 目标。经由医药和食品生产等各种应用,常被统称为「人工智能」的新技术和尖端技术可望为人类社会创造巨大效益与进展。在此之际,AI 的一些负面应用已加深歧视与偏见、侵害隐私并破坏在线信任。因此,欧盟机构眼前的挑战是在创造 AI 创新空间的同时,还要正视及提防 AI 衍生的风险。

我们建议欧盟委员会的立法秉持四原则:
  • 问责:确保监管框架能防治某些 AI 应用可能引发的危害。相关工作可能涵盖设计新的监管工具(如:「基于风险的方法」),以及加强执行现行相关法律(如:消费者保护法等)。
  • 审查:确保个人、研究人员与政府机构均有能力理解和评估 AI 应用及 AI 形成的决策。方法可能包括算法核查、稽查、与用户互动的透明度等等。
  • 文档:致力提升对于 AI 部署的认识,并确保应用程序必要时可提供文件记录,如:产品设计时间的人权影响评估报告、或公共部门部署 AI 的注册管理窗体。
  • 可竞争性:让个人与团体可就互联网 AI 应用所导致的负面影响提出质疑,并寻求救济。

委员会的公开征询偏重 AI 问责的相关议题。因此,在意见书中,我们特别就委员会如何在后续工作中更具体落实问责原则提出建言。在委员会公开征询问题的基础上,我们进一步提出以下见解:
  • 适用法律的评估:在落实 GDPR 执法以外,我们还强调需考虑欧盟法律中关于歧视之现有权利与保障,如:《种族平等指令》和《就业平等指令》。
  • 「高风险」应用的评估与应对:我们鼓励委员会进一步发展并理清其风险调适策略,尤其是如何、由谁及何时评估风险的层面。我们在这里明列一系列要点,包括:以使用情境与用途为风险评估的关键要素的重要性、全面保护机制的必要性、风险评估过程中多样性的重要性、及「风险」不该是唯一的风险管控机制(例如,将「延后执行」纳入考虑)。
  • 生物识别数据的运用:生物识别数据的收集和使用有重大隐私风险,故应经开放、协商和基于证据的过程仔细衡量。任何运用生物辨识数据的 AI 应用都应符合 GDPR 对此类资料收集与处理所设定的现行法律标准。除了执法和减轻风险的问题以外,我们还呼吁委员会探讨生物识别数据的边缘案例。这些案例可能会在 AI 领域引起各界关注(如:语音识别)。

感谢 Mozilla 2020 年院士在撰写意见书过程中提供的协助,尤其是 Frederike Kaltheuner、Fieke Jansen、Harriet Kingaby、Karolina Iwanska、Daniel Leufer、Richard Whitt、Petra Molnar 与 Julia Reinhardt 几位院士。

此公开咨询过程是欧盟委员会立法过程的初期程序。在法条草案预计于今年年底出炉前,委员会将继续通过不同形式征询公众意见。Mozilla 也将继续针对相关的建议表达见解,并期待与欧盟机构及关键伙伴展开合作,为发展可靠的 AI 生态系建立坚实的框架。您可按此阅读 Mozilla 呈交欧盟委员会的意见书全文。



您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

快速回复 返回顶部 返回列表