火狐社区

标题: Mozilla 提交意见书，回应欧盟委员会新 AI 草案的公开征询 [打印本页]

作者: yingliu 时间: 2020-7-10 10:22
标题: Mozilla 提交意见书，回应欧盟委员会新 AI 草案的公开征询

作者：Mozilla 欧盟公共政策领导人 Raegan MacDonald

欧盟即将在今年第四季提出全球首创的一般性 AI 法规。虽然诸多定义尚待理清，但欧盟希望通过制定此法，针对其所认定之「高风险」AI 应用明订相关规则与法律义务。在欧盟拟定规范前，Mozilla 已向委员会提交意见书，就新法制定方式提出建言与指引。此意见书汇整了 Mozilla 于开放创新与工程科技领域多年累积的见解，以及 Mozilla 基金会在欧洲推动「值得信赖的 AI」（trustworthy AI）工作的经验与心得。

我们认同委员会在策略中所阐述之建立「以人为本」的 AI 目标。经由医药和食品生产等各种应用，常被统称为「人工智能」的新技术和尖端技术可望为人类社会创造巨大效益与进展。在此之际，AI 的一些负面应用已加深歧视与偏见、侵害隐私并破坏在线信任。因此，欧盟机构眼前的挑战是在创造 AI 创新空间的同时，还要正视及提防 AI 衍生的风险。

我们建议欧盟委员会的立法秉持四原则：

问责：确保监管框架能防治某些 AI 应用可能引发的危害。相关工作可能涵盖设计新的监管工具（如：「基于风险的方法」），以及加强执行现行相关法律（如：消费者保护法等）。
审查：确保个人、研究人员与政府机构均有能力理解和评估 AI 应用及 AI 形成的决策。方法可能包括算法核查、稽查、与用户互动的透明度等等。
文档：致力提升对于 AI 部署的认识，并确保应用程序必要时可提供文件记录，如：产品设计时间的人权影响评估报告、或公共部门部署 AI 的注册管理窗体。
可竞争性：让个人与团体可就互联网 AI 应用所导致的负面影响提出质疑，并寻求救济。

委员会的公开征询偏重 AI 问责的相关议题。因此，在意见书中，我们特别就委员会如何在后续工作中更具体落实问责原则提出建言。在委员会公开征询问题的基础上，我们进一步提出以下见解：

适用法律的评估：在落实 GDPR 执法以外，我们还强调需考虑欧盟法律中关于歧视之现有权利与保障，如：《种族平等指令》和《就业平等指令》。
「高风险」应用的评估与应对：我们鼓励委员会进一步发展并理清其风险调适策略，尤其是如何、由谁及何时评估风险的层面。我们在这里明列一系列要点，包括：以使用情境与用途为风险评估的关键要素的重要性、全面保护机制的必要性、风险评估过程中多样性的重要性、及「风险」不该是唯一的风险管控机制（例如，将「延后执行」纳入考虑）。
生物识别数据的运用：生物识别数据的收集和使用有重大隐私风险，故应经开放、协商和基于证据的过程仔细衡量。任何运用生物辨识数据的 AI 应用都应符合 GDPR 对此类资料收集与处理所设定的现行法律标准。除了执法和减轻风险的问题以外，我们还呼吁委员会探讨生物识别数据的边缘案例。这些案例可能会在 AI 领域引起各界关注（如：语音识别）。

感谢 Mozilla 2020 年院士在撰写意见书过程中提供的协助，尤其是 Frederike Kaltheuner、Fieke Jansen、Harriet Kingaby、Karolina Iwanska、Daniel Leufer、Richard Whitt、Petra Molnar 与 Julia Reinhardt 几位院士。

此公开咨询过程是欧盟委员会立法过程的初期程序。在法条草案预计于今年年底出炉前，委员会将继续通过不同形式征询公众意见。Mozilla 也将继续针对相关的建议表达见解，并期待与欧盟机构及关键伙伴展开合作，为发展可靠的 AI 生态系建立坚实的框架。您可按此阅读 Mozilla 呈交欧盟委员会的意见书全文。

译自 Mozilla Blog

欢迎光临火狐社区 (http://mozilla.com.cn/)