视频 | 惠志斌：人工智能是唯一无法试错的技术

人工智能技术的飞速发展为生产效率的提高带来了跨越式的改变，但同时也给人类未来引发了一系列挑战。其中，人工智能发展最大的问题，不是技术上的瓶颈，而是人工智能与人类的关系问题，这催生了人工智能伦理问题的争议。《银翼杀手》《西部世界》等影视剧中人工智能反抗甚至超越人类的场景是否真的可能出现？我们又将如何有效规制人工智能技术和产业的发展呢？带着这些问题，看看新闻knews记者专访了上海社会科学院互联网研究中心主任、研究员惠志斌。

看看新闻knews记者：“人工智能发展至今面临了哪些方面的伦理挑战？”

惠志斌：“人工智能的技术，是一个变革性的技术，它对整个政治经济社会等各领域都是全方面的重塑。第一从经济层面来说结构性的失业是一个很大的问题。智能化的技术会去取代我们的一些简单重复性的劳动职业，比如说我们的收银员，比如说我们的流水线上一线工人都会有可能被结构性地替代。第二我觉得从社会层面来说，我们面临着数据隐私方面非常大的挑战。我们走在这样一个智慧城市的体系里面，我们是不是需要担心我们的所有的行踪，我们所有做的一些行为都会被无差别地记录下来。第三方面的影响在军事领域。越来越多的自动化武器系统的产生，会不会就颠覆了我们传统的一些战争形态。第四方面从家庭伦理的角度考量，类似陪护这样机器人的出现，有可能它会对我们的婚姻制度造成重大的挑战。”

看看新闻knews记者：“人脸识别技术的广泛应用引发争议，大家认为在技术进步的同时也侵犯了公民隐私权，就此您如何看待？”

惠志斌：“人脸识别等等一系列方面的应用，其实很多国家已经开始对它进行一些规范，不是说完全不用或者不是说完全放弃这样的一个人脸识别技术。就是说我们在使用这样的人脸识别技术的时候，需要考虑更多的对公民的隐私权的一些保护，不要进行一些大规模的、无差别的，没有经过用户同意和授权的，或者是不仅仅是公共场所，甚至一些半公共场所，甚至一些涉及到比如说我们的有一定的私人领域里，都进行了这样的人工智能的技术的一种监控，那这个会带来我觉得对一些社会的一些影响。”

看看新闻knews记者：“facebook选择关闭智能对话机器人项目，IBM、亚马逊和微软声明不再向警方提供人脸识别。您认为这是不是公司为了避免陷入伦理争议而做出的一种放弃？”

惠志斌：“这些技术的创新尤其是在过去的二十年，发展非常之快。但是原来的一些配套性制度、法律，其实相对来说它还是一个滞后的状态，那么在这样的一个滞后状态下很多社会的共识又没有完全形成。在这个过程中很多公司他们也在积极地去尝试，做制度层面的一些探索。我认为这些公司它并不是不使用，并不是完全放弃这个技术。它可能需要去等一等，它需要看到社会对这个技术的接纳或者是适应的程度究竟如何，法律与相关的其他配套性制度有没有逐步地完善起来。当这些逐步地完善起来的时候，我相信技术可以更好地发展。这就像两个轮子一样，它需要两个去协调和配套。当一个轮子跑太快的时候那肯定是要翻车的，所以一个轮子它在等另一个轮子怎么走上来，怎么让制度建设这个轮子更好地去配合科技产业这个轮子的发展。”

看看新闻knews记者：“伦理问题的争议是否有可能对人工智能的发展产生影响呢？”

惠志斌：“人工智能这样的一个技术所带来的其实是对传统的一些经济社会形态的重大改变。那在这个里面它必然伴生着一些伦理问题的产生。这就好像是一个硬币的两个方面，当我们不能够很好地解决这样的伦理问题，包括法治的、安全的等等一系列的问题的时候，我们人工智能的产业、技术也有可能受到限制。它在发展中间也许就会对这个社会造成重大的冲击。当社会无法承受的时候，可能就反向地会去遏制人工智能技术人工智能产业的健康发展。”

看看新闻knews记者：“伦理问题在人工智能发展过程中的意义是什么？”

惠志斌：“我们都要有一定的共识，到底什么样的人工智能的技术和应用是应该去倡导的，是应该去鼓励的；什么样的人工智能技术我们还需要去看一看，还需要去等一等。我们首先考量它的风险到底有多大，再去看它的技术到底用不用。那在伦理这个层面，我们经过深入探讨，有了更多的共识以后，然后我们才可以更加精准地去进行一些符合未来发展方向的立法和执法，以及其他配套性的制度建设。所以伦理是基础，是人工智能发展过程中大家共识形成的一个过程。”

看看新闻knews记者：“公众对于人工智能可能摆脱人类控制甚至反噬人类的担忧，您如何看待？”

惠志斌：“目前人工智能总体来说还处于一个弱人工智能时代，在这个阶段里面，我觉得大部分的人工智能产品和技术还是相对可控的。但是随着技术的发展，人工智能必然向着强人工智能或者是通用人工智能的时代去演进，但在这个过程中间，我们还是需要去高度警惕。因为人工智能可能是人类有史以来唯一无法试错的这样的技术，一旦它脱离了人的控制，有可能对人类就是一个灭顶之灾。”

（看看新闻knews记者：王抒灵 吕心泉 潘凯 编辑：刘喻斯）