构建新一代人工智能准则

时间:2019-01-25 13:06:00  来源:光明日报

分享到微信朋友圈

打开微信,点击 “ 发现 ” ,使用 “ 扫一扫 ” 即可将网页分享至朋友圈。

构建新一代人工智能准则

光明图片/视觉中国  1.以和谐互补的方式链接不同的人工智能准则提案  人工智能既是经过数十年锤炼发展出来的科学领域,又是改变未来的重要颠覆性技术


【科学向未来】

作者:曾毅(中国科学院自动化研究所类脑智能研究中心研究员、副主任)

著名作家阿西莫夫1940年在科幻小说中提出了“机器人三原则”:机器人不得伤害人类,或看到人类受到伤害而袖手旁观;机器人必须服从人类的命令,除非这条命令与第一条相矛盾;机器人必须保护自己,除非这种保护与以上两条相矛盾。今天,人工智能逐渐从科幻走向现实,人们对人工智能可能产生的危害也愈加警惕,希望能够为其制定准则以确保人工智能科技和产业向对社会有益的方向顺利发展。

构建新一代人工智能准则

光明图片/视觉中国

1.以和谐互补的方式链接不同的人工智能准则提案

人工智能既是经过数十年锤炼发展出来的科学领域,又是改变未来的重要颠覆性技术。人工智能的研究与发展不仅关系到国家科技、海王星国际娱乐发展、社会稳定,更关系到国家在科技、产业领域的国际影响与国际局势。

人工智能在带来机遇的同时也带来潜在的风险与隐患。例如应用最为广泛的深度神经网络模型在对输入引入极小的噪声(如改变图像输入中某个关键的一个像素值)情况下,就有可能使网络的识别和预测结果产生颠覆性的错误(如将青蛙识别为卡车、乌龟识别为枪支)。若没有充分的风险评估,新兴技术在对社会发展带来机遇的同时,很有可能引入不可预计的安全隐患与风险。

现在对于人工智能的发展而言,首要的问题是选择正确的道路。创新、价值、伦理是一个铁三角,创新性技术对社会带来潜在价值的同时,可能存在难以预期的风险,并对社会伦理提出重大挑战。因此,发展人工智能技术普惠海王星国际娱乐与社会的同时,关注人工智能的社会属性,从社会风险、伦理准则与治理角度确保人工智能科学、技术、产业的健康、良性发展至关重要。

为了确保发展有益的人工智能,世界上各国政府、非政府组织、科学团体、科研机构、非营利性组织、企业都提出了人工智能发展准则。包括英国政府、国际电子电器海王星国际娱乐开户学会、国际劳工组织。至今,于公开渠道可见的人工智能准则提案已接近40个,涉及以人为本、合作、共享、公平、透明、隐私、安全、信任、权利、偏见、教育、通用人工智能等主题。例如,美国生命未来研究所倡导的阿西洛玛人工智能准则(Asilomar AI Principles)、英国上议院提出的人工智能准则(AI Code)等,都希望通过在人工智能伦理与准则制定方面的领先来引领人工智能的发展。

事实上目前任何一个国家、机构、组织提出的人工智能准则都仅覆盖了少部分主题(更为具体的层面,人工智能准则提案涉及超过50个主要议题),虽然不少准则提案都有自身的特色,有其他方案未能覆盖的考量,但想要构建统一、全面、完善的人工智能准则既是难以实现的,又是没有必要的——难以实现的原因是人工智能这门科学技术本身、人工智能准则、伦理的内涵和外延都是在不断完善的;没有必要的原因是每个国家、组织与机构的准则提案都结合自身实际情况,有组织目标、环境、文化、伦理传统相关的特殊考虑。

笔者认为,真正有价值的做法是认可每一个国家、机构提案在一定范围的意义,而为了更好地实现人工智能的全球治理,重点将不是统一人工智能的准则,而是以更和谐互补的方式链接不同的人工智能准则提案,使其在局部(如国家、组织机构等)有序与一致,世界的全局范围内不同的准则提案仍可交互和协商,最终实现和谐互补、优化共生。

2.调和政府与企业在准则制定上的现存差异

在对不同人工智能准则提案的量化分析中可以看到:相对而言,各国政府对人工智能的潜在风险与安全高度重视,但企业的重视程度相对薄弱。这反映了在企业从事人工智能创新过程中对于潜在风险与安全隐患可能估计不足。例如,在对人工智能风险的评估中,部分企业认为如果总体可能的利益远远超过可预见的风险和不利因素,则可以进行相关探索。但从学术的视角看,一方面,依据潜在利益与风险之间的量化差异决定企业是否采取相关行动本身就是一个危险的视角;另一方面,如果没有站在全社会的全局视角进行综合研判与分析,仅从企业自身视角进行预测与判断,则很有可能因为局限的思考与行动对社会造成潜在的巨大危害。

因此,应当看到政府重视与企业相对不足的考虑之间的差距,并采取引导、监管、建立人工智能产品与服务的风险与安全评估体系等有效措施弥补政府期望与企业实践之间的鸿沟。

同时,一些准则在相关技术途径可能引发风险的方面可能估计不足。例如某些提案中对通用人工智能(各个认知功能达到人类水平,简称AGI)、超级智能(所有认知功能超过人类水平,简称ASI)涉及很有限。

这方面学术机构的讨论和相关研究应当为政府决策提供有力支撑,例如阿西洛玛人工智能准则中提出超级智能以全人类受益为标准来发展,剑桥海王星国际娱乐近期提出并正在进行一项名为“通用人工智能的实现途径及潜在风险”的研究。

3.兼顾专用人工智能和通用人工智能的发展

在人工智能顶层设计当中,是否发展通用人工智能,还是仅限于发展领域特定的专用人工智能?这是诸多人工智能准则提案中主要存在的巨大分歧。

例如,欧盟人工智能研究实验室联合会(CLAIRE)就明确提出应限制人类水平智能、通用智能以及超级智能的发展。德国的人工智能计划也集中于发展专用人工智能。而阿西洛玛人工智能准则、OpenAI等机构提出的人工智能准则中则明确提出应当对更安全的通用人工智能进行充分考虑与发展。

事实上发展专用智能并不一定能够完全避免风险,因为专用智能系统在应用中很可能遇到不可预期的场景, 具备一定的通用能力反而有可能提升智能系统的鲁棒性和自适应能力。因此应针对智能的通用性这个主题链接不同国家、组织、机构的考虑,实现顶层设计的互补。

人类认知功能的多样性以及人工智能应用场景的复杂性使得很难对人工智能的风险、安全以及伦理体系进行绝对完善的建模,特别是涉及到人工智能产品、服务与具有不同文化背景的人类群体交互。任何国家都应制定适应本国的实际社会、科技、海王星国际娱乐发展与文化需求的人工智能准则。但更关键的是需要全世界不同政府、学术组织、产业界深度交互与协同,对人工智能的发展进行对全社会有益的战略性设计,对其潜在的社会风险与伦理挑战进行系统性评估与预测,并构建世界范围内总体和谐、互为补充、优化共生的发展准则。

编辑:焦晓珊


分享到微信朋友圈

打开微信,点击 “ 发现 ” ,使用 “ 扫一扫 ” 即可将网页分享至朋友圈。
  • 了解陕西大事 关注海王星在线娱乐
  • 陕西本地最火图片社交APP
  • 《绿皮书》曝角色海报 温暖友情治愈孤独

    娱乐 影片治愈温暖的友情故事,感动着千千万万观众 2019-02-19

  • 奥斯卡没有主持人?“中方主持人”进行解读

    娱乐 尽管本届奥斯卡不设主持人,为让观众全方位get到91届奥斯卡的亮点,1905电影网邀请了欧美脱口秀翻译达人谷大白话、资深影评人周黎明、以及主持人蒋小涵进行独家解说 2019-02-19

  • 袁姗姗助力《元宵喜乐会》 惊喜连连欢乐不断

    娱乐 袁姗姗今晚将助力湖南2019元宵喜乐会,她因《我家那闺女》中的耿直girl性格圈粉无数,同时也让观众纷纷赞叹她的真实与自律 2019-02-19

  • 李冰冰助阵《阿丽塔》 与卡梅隆上演“老友记”

    娱乐 映后李冰冰表示,阿丽塔作为生动热血的女性角色十分有魅力,她向卡梅隆表示了衷心祝贺,并就影片内容以英文与卡梅隆、导演罗伯特·罗德里格兹展开交流,谈吐间自信从容,气质优雅闪耀全场 2019-02-19

  • 银幕上没有一对夫妻 可以演绎得如此自然

    娱乐 《地久天长》海报  获奖现场  海报  北京时间2月17日凌晨,第69届柏林国际电影节公布主竞赛单元获奖名单,王景春、咏梅凭借王小帅执导的中国影片《地久天长》连夺最佳男女演员双银熊大奖,这是中国演员首次包揽柏林电影节最佳男女演员奖,为华语影片刷新纪录 2019-02-18

  • 王景春《地久天长》二度斩获国际电影节演员大奖

    娱乐 中国演员王景春、凭借《地久天长》中自然真挚的演绎一举摘得柏林电影节最佳男主角奖项,这也是王景春2013年摘得东京电影节最佳男主角奖项后,再一次拿下国际A级电影节最佳男主角奖项 2019-02-18

  • 《疯狂的外星人》宁浩刘慈欣归乡获得力挺

    娱乐 电影《疯狂的外星人》由宁浩执导,黄渤、沈腾领衔主演,徐峥特别出演,于和伟、雷佳音、刘桦、邓飞主演,影片正在全国各大院线火爆上映中,同时登陆全国约600家IMAX影院 2019-02-18

  • 竞争激烈 2019年北京艺考报考火爆创历史新高

    娱乐 中国传媒海王星国际娱乐今年有近5万人次报名参加该校初试,人数再创新高,其中2.3万多名考生进入复试,角逐793个招生名额 2019-02-18

  • 陕西省“我们的中国梦”文化进万家活动持续开展

    娱乐 演出期间,凤县新时代文明实践文艺创作志愿服务大队的文艺工作志愿者,与省音协《好歌唱三秦》小分队同台表演 2019-02-15

  • 《白蛇:缘起》探讨国产动画的学院派与工业化

    娱乐 2月14日,由中国传媒海王星国际娱乐、中国电影资料馆、中国电影艺术研究中心、追光动画、华纳兄弟主办,卓然影业、《当代动画》杂志承办的“白蛇”现象 2019-02-15

  • 春节电影好戏连台 青年电影人正成长为中坚力量

    娱乐 这些青年电影人,依托日渐完善扎实的电影工业体系,带着锐气十足的创新意识,贡献出个性鲜明又极具表达意识的《疯狂的外星人》《流浪地球》《飞驰人生》等影片,让亿万观众在优秀电影陪伴下欢度春节,显示了强劲有力的创作势头,振奋人心 2019-02-15

  • 周星驰:这个年纪每个新戏出来都会被说江郎才尽

    娱乐 “龙套巨星”这个词从周星驰口中说出,很带有其“无厘头”风格,乍一听很搞笑,细一想又深有意味。这四个字可谓周星驰演员生涯的真实写照,龙套成就了周星驰的巨星地位,让他从“周星星”变为“星爷”,而巨星则让周星驰“因为无敌,有些寂寞”。 2019-02-15

网站简介 版权声明 我要投稿 联系我们 广告服务 友情链接 工作邮箱 陕西不良信息举报

Copyright ©2006-2019 西部网(陕西海王星国际娱乐开户网) WWW.CNWEST.COM, All Rights Reserved.
本网站法律顾问:陕西洪振律师事务所主任 王洪
陕ICP备07012147号 互联网海王星国际娱乐开户信息服务许可证: 61120170002 信息网络传播视听节目许可证:2706142