智联世界 无限可能|“深度换脸”引出人工智能安全忧虑 多场论坛热议科技向善需保障

2019世界人工智能大会的最后一天，一款新推出的AI换脸软件一夜爆红社交网络，但也引发严重的隐私争议。人工智能的安全，再度被推上风口浪尖，“科技向善”更成为昨天多场大会论坛热议焦点。AI专家们认为，技术自身是无法辨别是非的，但是人必须坚守底线，人工智能与安全融合需要各个领域共同参与。

图说：“科技向善”成为多场大会论坛热议焦点 新民晚报记者 孙中钦 摄

　　 数据安全并非危言耸听

这款名为“Zao”的软件，只需用户上传一张个人照片，就能利用程序将脸移花接木到影视片段中，和明星们演起对手戏。它在其旧版的“用户协议”中，要求获得用户人脸照片“完全免费、不可撤销、永久、可转授权和可再许可的权利”，被指是存在隐私与安全风险的霸王条例。一些网友和法律人士认为，这款软件涉嫌非法收集用户面部信息，担心面部信息会被滥用，抑或被黑客盗用。不过，截至记者发稿，该软件已经悄悄修改了其用户协议内容，并在用户协议的开头部分增加了“特别提示”。新的用户协议提示，“用户上传的短视频和人脸，将严格按照相关法律法规的规定保留在ZAO上。除非为了改善ZAO的服务或者另行取得用户的再次同意，ZAO不会以任何其他形式或目的使用上述内容。”，并新增了“删除面孔”选项，疑似回应网络争议。

有关“AI换脸”的担忧，并非危言耸听。科技这把双刃剑，也时常和“罪与罚”共行。前几年，就有人利用“换脸术”，制作淫秽视频。这个月初，3D人头模型还破解了刷脸支付，成功购买过车票。前几日的世界人工智能大会“AI TALK”上， 汇付天下CDO裔隽曾提醒，3年前，黑客技术已可以在电脑上根据指令来呈现所需要的活体动作。“尽管目前已有保障技术抵御‘邪恶科技’，但也不能掉以轻心。一方面，支付越来越便捷，信用卡、扫码、人脸，但另一方面，黑客、黑产、灰产始终盯着我们。”

　　 技术与立法亟需齐头并进

伴随着人工智能的蓬勃发展，人工智能的算法、内容造假、虚假新闻、数据隐私等问题开始凸显，人工智能发展导致的劳动力替代等经济和社会伦理问题也值得重视。然而，光靠技术手段不足以解决问题，多位专家在人工智能大会上呼吁，当务之急应该立法立标准，让这个新兴行业有一个规范发展、透明公平的发展环境。微软全球执行副总裁沈向洋在大会开幕式发表演讲时说，今天我们是人工智能的发明者，我们绝对不可能也不应该等到80年以后才为人工智能补上一条“安全带”。

昨天，中国科学院院士褚君浩在人工智能大会商业分论坛上分享了关于“第四次工业革命与人工智能”的话题。“未来已来，人工智能不仅是一个技术问题，也是一道治理考题。一方面人工智能带来科技革命和产业升级的重要机会，另一方面，这种新兴的技术也带来新的安全风险，在治理上人类将面临与以往完全不同的难题。”他在接受本报记者采访时表示，治理是个系统工程，需要IT技术、法律层面、社会各界等各个领域参与，理想状态是人工智能技术与立法齐头并进，甚至法律是否能做到未雨绸缪。

今年6月17日，国家新一代人工智能治理专业委员会就发布《新一代人工智能治理原则——发展负责任的人工智能》，其中就包含了“科技向善”的元素：公平公正、包容共享、尊重隐私……这次，人工智能大会又有了进一步的发展：国内首个AI安全与法治导则《人工智能安全与法治导则（2019）》正式出炉，该导则从算法安全、数据安全、知识产权、社会就业和法律责任等五大方面，对人工智能发展的安全风险作出科学预判，提出安全与法治应对策略，守卫人工智能发展的“安全基因”。

　　 科技向善还靠行业自律

在本次大会开幕主题演讲环节，腾讯董事会主席兼首席执行官马化腾说，在AI的治理方面，要以“科技向善”引领全方位治理，确保AI“可知”“可控”“可用”“可靠”。其实，我们身边“科技向善”的例子有很多，当你看见因为智慧课堂，从没有用过PAD的孩子眼里露出对于知识渴求的光芒；当你看见因为人脸识别，被拐10年的儿童回到了父母身边；当你看到因为智能语音合成技术，身患重病的爸爸的声音被保存下，能够陪伴女孩儿一路成长……相信你的眼角也会泛起泪花。这是一个个真实的故事，也是“科技向善”最好的诠释。

人工智能的“安全护航”，除了立法规范，还需行业自律。“如果，科学家在每一项新技术研发中能想一想其负面风险，如果，制造商在每一个新应用中构建风险管理办法，那么，科技向善、立法规范不难找到新路径。”今年5月，星环科技就曾发布大数据安全白皮书，强调产品设计中的大数据安全考量。《白皮书》根据星环科技多年的大数据安全实践经验，总结了一些企业在做企业级数据平台建设时应考虑到的安全规范，并为安全体系的设计、管理和规范提供一个衡量标准。深兰科技的手脉识别系统对采集的手脉信息进行了特殊加密技术，保障不被不法分子利用数据进行认证应用。微软内部成立了人工智能伦理道德委员会，计划未来推出的每一个人工智能产品都要经过人工智能道德伦理审查。

不过，褚君浩也表示，人工智能是一项革命性的新技术，目前仍处于起步阶段，还没有人可以准确预测未来的结果，也难免会引起争议和怀疑。“治理的同时，也不要忘记保护科学家和企业家的创新积极性，尊重人的权利与尊严。”

新民晚报记者 马丹 郜阳