2021世界人工智能大会 ｜ 伦理治理给人工智能更大创新空间

图说：薛澜与徐立在论坛上对话 新民晚报记者 孙中钦 摄

　　 人工智能将带来哪些全新创新范式？人工智能的发展与治理存在怎样的关系？针对人工智能发展面临的诸多挑战性问题，清华大学苏世民书院教授、院长薛澜与商汤科技联合创始人、CEO徐立在“大爱无疆·共生” 论坛上展开对话。

　　 被誉为“创新理论”鼻祖的约瑟夫·熊彼特曾提出，科技创新本身就是一个颠覆性的过程，它是在传统产业基础技术颠覆之上，带来新的技术应用。现场，薛澜分享了对创新的全新理解：“创新有时候颠覆的不仅是技术，同时也是观念和认知，也有可能带来一些未知和潜在的风险。人类社会其实也是在不断探索，在获取最大收益的同时，怎样有效规制和降低风险，在审慎的应用中去探索它的边界。”

　　 那么，会不会有一天人工智能具有超出我们人类想象力的能力？徐立说：“答案是非常难的，需要技术往前再进一步，才能看得出更大的全貌。以现在技术演进的路线，距离真正能够去突破人的思维边界的能力，还存在一定的空间和距离。我们需要开发的是真正能够帮助人类去拓展思维局限性的技术。”

　　 薛澜教授还主导诸多国家治理框架建设，他认为人工智能治理框架与传统治理区别很大，传统治理框架需要一个相当长的时间去研究归纳总结，再征求各方意见；但人工智能技术日新月异，治理框架要更快适应技术的发展，及时给予“点拨”，避免偏离太远。

　　 伦理治理会成为人工智能发展的阻碍么？两者之间存在怎样的关系？薛澜认为彼此关系紧密、相互依存，如果规制的框架不清楚，实际上是限制了发展，倘若没有明确的治理框架，甚至不敢去做创新与投资。

　　 徐立表示：“商汤一直秉承着均衡的人工智能伦理治理观，包括可持续发展、以人为本和技术可控。其中，可持续发展的AI治理观，包括可持续发展、保护环境、包容共享等伦理主题；以人为本的AI治理观，包括保护隐私、造福人类、公平无歧视等伦理主题；技术可控的AI治理观，包括可验证、可审查、合法、可信任等伦理主题。旨在跳出传统的思维局限，集结更多元的思维视角，以此来规范人工智能创新和发展的伦理边界。”

　　 同时科技的普及也至关重要。薛澜认为，需要让社会更好地认识到AI技术的特点，以及可能带来的各种风险，如此我们社会和公众对这些技术就不会感到那么陌生，也就可以做出更好的理性的选择。

　　 新民晚报记者 郜阳