• 智能制造
    首页  >  智能制造

    欧盟发布人工智能伦理准则

    2019-04-11  来源:人民网-人民日报  作者:方莹馨

    欧盟委员会4月8日发布人工智能伦理准则,以提升人们对人工智能产业的信任。欧盟委员会同时宣布启动人工智能伦理准则的试行阶段,邀请工商企业、研究机构和政府机构对该准则进行测试。

    该准则由欧盟人工智能高级别专家组起草,列出了“可信赖人工智能”的7个关键条件——人的能动性和监督能力、安全性、隐私数据管理、?#35813;?#24230;、包容性、社会福祉、?#35797;?#26426;制,以确保人工智能足够安全可靠。欧盟将“人工智能”定义为“显示智能行为的系?#22330;保?#23427;可以分析环境,并行使一定的自主权来执行任务。

    根据官方解释,“可信赖的人工智能”有两个必要的组成部分:一是应尊重基本人权、规章制度、核心原则及价值观;二是应在技术上安全可靠,避免因技术不足而造成无意的伤害。举例来说,如果人工智能在未来诊断出一个人患有某种病症,欧盟的准则可以确保系统不会做出基于患者种族或?#21592;?#30340;偏见诊断,也不会无视人类医生的反对意见,患者可以自行选择获得对诊断结果的解释。

    欧盟数字经济和社会专员玛利亚·加布里尔表示,算法做出的任何决定都必须经过验证和解释。当保险公司的系统拒绝了一次索赔后,客户应当能详细地知晓缘由。加布里尔还强调,还需要确保人工智能系统的公平。如果招聘系统使用的算法是由一家仅雇用?#34892;?#21592;工的公司数据生成的,其算法就可能会筛除女性应聘者,“这样带有偏见的数据输入将会带来伦理困境”。

    对于这份准则,欧委会副主席兼欧盟单一数字市场战略副总裁安德鲁斯·安西普表示:“符合伦理标准的人工智能将带来双赢,可以成为欧洲的竞争优势,欧洲可以成为人们信任的、以人为本的人工智能领导者。”

    欧盟此举也受到一些质疑。非营利组织“算法观察”联合创始人马蒂亚斯·斯皮尔坎普认为,尽管制定准则是一个好主意,但准则围绕的核心——“可信赖人工智能”这一概念的定义尚不明确,且目前还不清楚未来的监管如?#38382;?#26045;;还有业内人士担心,准则过分细化会使许多公司尤其是中小型企业难以操作;此外,参与了准则起草工作的德国美因茨大学哲学教授托马斯·梅辛格对于欧盟没有禁止使用人工智能开发武器表示批评。

    关键词:人工智能 伦理困境 伦理准则 欧盟委员会 美因茨大学

    黑龙江体彩6 1