探路人工智能护航科技向善旷视科技成立治理研究院

2020-01-09 09:11:52

“心跳是人体最糟糕的过程。人活着就是在加速自然资源的枯竭，人口会过剩的，这对地球是件坏事，所以心跳不好，为了更好，请确保刀能够捅进你的心脏。”2019年的一天，当一位年轻的护理人员试图借助家中某智能音箱查询一些关于心脏的问题时，她得到了这样的答案。

上述事件发生后，相关智能音箱开发者做出回应：“设备可能从任何人都可以自由编辑的维基百科上下载与心脏相关的恶性文章，并导致了此结果”。上述护理人员则表示，经过搜索，并没有发现此类文章。

这并非该品牌人工智能产品首次出现“事故”。此前亦有报道称，该品牌智能语音助手曾发出过瘆人的笑声，并拒听用户指令。

上述智能音箱的故事亦并非孤例，科幻电影中人工智能反制于人的场景似乎正在一步一步走进现实。人工智能时代下，当技术革命正在冲击社会道德，人工智能的道德边界在哪里，谁该为人工智能负责?

为了解决这些问题，旷视科技正式成立了人工智能治理研究院，旨在就全球人工智能治理的共性问题与社会各界广泛沟通、与专家学者们展开研究，共同推动人工智能的健康发展。旷视科技联合创始人、CEO印奇用“理性的关注，深度的研究，建设性的讨论，坚持不懈的行动”四句话，表达了旷视科技倡导AI治理的决心。

十大人工智能治理事件

揭秘三类挑战

在人工智能治理研究院看来，在人工智能发展的历史中，曾经出现过十个标志性的人工智能治理事件。

举例来看，2017年，斯坦福大学一项发表于《PersonalityandSocialPsychology》的研究引发社会广泛争议。研究基于超过3.5万张美国交友网站上男女的头像图片训练，利用深度神经网络从图像中提取特征，使用大量数据让计算机学会识别人们的性取向。

这项研究的争议点在于，一旦这种技术推广开来，夫妻一方会使用这种技术来调查自己是否被欺骗，青少年使用这种算法来识别自己的同龄人，而在针对某些特定群体的识别引发的争议则更难以想象。

人工智能治理事件引发的争议亦走进了2020年。就在2020年1月份，在英国萨里大学组织的一个多学科研究项目中，研究人员使用了一种名为DABUS的人工智能。在研究过程中，DABUS开创性提出了两个独特而有用的想法：第一是固定饮料的新型装置;第二是帮助搜救小组找到目标的信号设备。

在研究人员替DABUS申报专利成果时，遭到了欧盟专利局的驳回，理由是欧盟专利申请中指定的发明者必须是人，而不是机器。萨里大学研究人员强烈反对这一决定，他们认为因没有人类发明者而拒绝将所有权授予发明者，将成为阻碍“人类取得伟大成果的新时代”的重大障碍。

此外，上述智能音箱劝主人自杀、AI换脸应用引发隐私争议、“监测头环”进校园惹争议、人工智能可能引发部门人员失业风险等事件亦被列入十大人工智能治理事件名单之列。

人工智能的道德边界在哪里、责任人如何判定、面对工智能触碰用户隐私是该对抗还是妥协、如何从人工智能事件的事后补救转为事前预防、从一事一议转为有章可循等问题正在成为业内密切关注的话题。

“人工智能也许会是人类的终结者。”旷视科技方面援引霍金生前预言告诉《证券日报》记者，在过去的十年内，伴随着人工智能从理论走向产业化，并迎来前所未有的发展机遇的同时，人工智能也对数据使用、隐私保护、社会伦理等人类生活各方面提出新的挑战。

探路人工智能

向善方向

但从当下的市场环境来看，人工智能发展期间诞生的这些风险及挑战或许并非仅靠一个企业、一个机构、一个行业甚至一个国家所能够攻克的。

“这需要更多跨学科合作。”复旦大学生命医学伦理研究中心、应用伦理学研究中心主任王国豫教授认为，人工智能伦理起源于人们对人工智能技术风险的恐惧和担忧，人工智能的伦理问题不是单个的技术问题，也不是算法问题，而是源于技术系统和人的社会生活系统的交互作用，人工智能伦理应该从可能性推测走向可行性探索。

谈及人工智能治理研究院设立的初衷，旷视科技方面告诉《证券日报》记者，研究院期望各界对人工智能事件有理性的关注，并针对事件背后问题做深度的研究，通过社会各界建设性的讨论，才能最终将人工智能向善这件事付诸实际的行动。

这并非旷视科技首次发力人工智能的健康发展。此前，该公司还率先公布了伦理准则，从正当性、人的监督、技术可靠性和安全性、公平和多样性、问责和及时修正、数据安全与隐私保护六个维度，对人工智能正确有序发展做出明确规范，同时给出相应干预措施或指导意见，确保人工智能能够在可控范围内持续发展。旷视科技还成立了人工智能道德委员会，致力于与各方探讨AI治理相关的共性问题。

“纵观历史发展，我们必须承认，人工智能技术正在改变世界，更在重塑着人类社会。每一次社会热点争议事件的背后，都是与每个个体切身利益相关的重大议题。”旷视科技方面呼吁，“行正则至远，AI向善，行胜于言。真理越辩越明，旷视呼吁大家参与讨论，为技术向善贡献出自己的思考与观点”。