从自动驾驶、AI医疗再到工业生产,以及我们生活的各个领域,AI正在展现巨大变革赋能的潜力。但是,随着AI应用的广度和深度不断拓展,诸如算法安全、数据歧视、数据滥用等诸多问题也显露出一些风险与隐患。从而,引发人们对人工智能信任的思考。

7月8-10日,世界人工智能大会于上海举办。作为世界人工智能大会的主题论坛之一,可信AI论坛以“AI向善全球共治”为主题,就可信AI的认知演进、理论研究、产业探索等议题,进行深入探讨,携手共建安全、透明、公平、可控的未来智能世界。

中国信通院院长余晓晖提到,当前全世界各国都高度重视可信人工智能的发展,发展可信人工智能是我们真正最终能够释放出人工智能的前景,能够造福于全球我们人民的发展,这是一个关键的基础。

上海市经济和信息化委员会主任吴金城中表示,面向智能时代的发展机遇,上海正全面推进城市数字化转型,推动人工智能在增强经济新动能,改善生活品质,提升治理效能等方面发挥引领作用。人工智能赋能数字化转型的过程也是推动AI技术卓越、安全、可信的过程,未来将在城市数字化转型实践中,加快完善人工智能治理规范,探索形成上海准则。

中国科学院自动化研究所研究员、国家新一代人工智能治理专委会委员、联合国教科文组织人工智能伦理特设专家组专家曾毅认为,可信人工智能系统必须有在线连续学习和随时纠正能力。可信人工智能绝对不仅仅是技术问题,还有社会的视角。如何利用技术赋能跨文化的互信,是真正实现可信人工智能不得不做的事情,甚至是最后成功关键。

清华大学国强教授、智能产业研究院研究员聂再清表示,AI经常会与中文的“爱”联系到一起,其实表达了大家对AI有期待,即让AI有爱。技术是中性的,只有有爱,才可以产生用户价值,AI向善,技术才能真正的走到千家万户变成日常生活一部分。

复旦大学类脑智能科学与技术研究院副院长王守岩提出,AI正在全面地,复杂地影响着整个社会的发展,对于整个社会的影响所带来的不确定性,有必要尽快建立可信的体系,可信的文化,可信的治理方式。

浙江大学计算机科学与技术学院教授宋明黎认为,可信AI应该至少包含三个方面,第一是数理模型可信可靠;第二是机理模型的可解释,可信性;第三是推理结果的可预期性。

中国社会科学院哲学所研究员、中国社会科学院科学技术和社会研究中心主任段伟文从哲学上解读AI向善,他提出,技术的发展应赋予每个人更多的发展的权力,AI向善不仅能给予更多群体跟上人工智能的机会,而且让他们在这个过程当中学会如何面对世界,如何开创未来以及如何寻找人生意义。

上海交通大学约翰·霍普克罗夫特计算机科学中心副教授张拳石表示,向善的AI就是求真的AI,AI向善首先模型得求真,求真后用人类价值体系看它是否向善。

“对于学术界来说,在智慧城市领域,从宏观来讲,更加关注城市的感知和理解能力,从微观来讲,也非常注重医疗智慧的落地能力,”武汉大学计算机学院副院长、武汉大学人工智能研究院常务副院长杜博谈到,“未来城市应该有更强观测数据能力,更多的人工智能计算中心,更多的落地场景。”

中国科学技术大学电子工程与信息科学系副教授田新梅认为,科技企业在可信AI里面起着非常重要的作用,首先不仅是很多关键技术的提出者,更重要是要把科学技术转化成应用落到实地,一项技术只停留在实验室是没有用的,要转化落地服务人民才是有用的,科技企业肩负着这样的重任。



责任编辑:白雨