之江动态

实验室最新动态及媒体关注热点

朱世强:加快技术发展、警惕伦理风险 让AI造福人类

 发布日期:2022-11-11

人工智能在与实体经济和社会生活深度融合的同时,会对既有生产关系、社会治理等带来新的挑战,也引发了人们关于人工智能伦理问题的一些思考与担忧。如何准确把握时代特质,提出合理而具有前瞻性的伦理规则,构建人工智能国际治理框架体系,培育更加公正、人性化的伦理新秩序,是摆在我们面前的一个重大课题。

KW__9970-opq337282965.jpg

11月10日,在2022年世界互联网大会人工智能与数字伦理分论坛上,之江实验室主任朱世强围绕“人工智能伦理的技术逻辑与人类的选择空间”发表演讲。

“弱人工智能很强,强人工智能很弱。这是现行人工智能的两大特点。”朱世强指出,现行人工智能在特定能力方面达到或超越人类,例如AlphaGo战胜人类围棋高手,AlphaFold预测蛋白质结构。但同时,人工智能还不具备人类的学习、思考、情感等能力。

“人工智能只是人类智慧的容器,主动权永远在人类手中,人类能够创造高级智能体,也一定能够管理它。现阶段我们的重点任务仍然是加快技术发展,同时对技术发展可能带来的伦理问题保持警惕,未雨绸缪。”朱世强说道。

为应对未来可能出现的人工智能伦理问题,之江实验室形成了一套AI伦理图谱,从研发、使用、管理三个方面出发,界定了各类主体可能面临的问题以及应当承担的责任。从研发的角度来看,科研工作者要努力克服数据偏见、数据安全、算法可解释性等技术问题;从使用的角度来看,需要开发一些重要的功能、工具,避免数字鸿沟、马太效应、社会偏见等;从管理的角度来看,要采取法律法规等手段遏制人工智能的滥用,比如隐私信息泄露、深度伪造等。

KW__9944-opq337280368.jpg

“要以技术去制约,实现AI可知可控、安全可信、公平公正、敏捷治理,达到AI造福人类的目的。”朱世强介绍,围绕这样的伦理图谱,之江实验室已从多方面开展行动,预防AI可能带来的社会危害。

首先,以技术标准框定技术方向。之江实验室已获批筹建国家技术标准创新基地(智能计算),主导、参与制定智能计算相关国际和国家标准22项,如主导制定并发布首个国际标准“隐私保护机器学习技术框架”。

同时,围绕新一代人工智能,之江实验室正通过构建专业综合性知识库,打造数据与知识双轮驱动的人工智能,建立新一代可解释方法体系,支撑形成透明智能。开发“之江天枢”人工智能开源平台、后量子密码关键技术与平台、数据隐私计算平台等系列工具,遏制不良应用。

此外,之江实验室正在研制具备可演进基础架构、灵活可定义可重构能力的全维可定义网络,建设具有测试验证、数字孪生、监控评估等功能的国家级工控系统信息安全综合实验设施,以突破关键技术与装备为网络安全保驾护航。

“我们要以更大的耐心支持技术本身的发展,同时又要高度关注人工智能可能带来的风险。期待在技术发展以及法律规范下,更加公平合理、开放包容、安全稳定、富有生机活力的数字文明在中国蓬勃发展。”朱世强表示。