强人工智能与弱人工智能的伦理问题思考

 　　机器人是人工智能研究的主要对象和领域之一。机器人伦理是哲学伦理学的一个新研究方向。机器人伦理与人工智能伦理在对象和内容方面还有很多差异。强人工智能与弱人工智能由于处于不同的发展阶段而面临不同的伦理问题。以深度学习为代表的现实中的弱人工智能给社会带来的伦理问题与未来可能要实现的强人工智能一样值得思考和重视。本文分析了弱、强人工智能带来的益处和风险，提出了防范人工智能伦理风险的对策。

　　《创新创业理论研究与实践》(半月刊)创刊于2018年，以马列主义、毛泽东思想、邓小平理论和“三个代表”重要思想为指导，全面贯彻党的教育方针和“双百方针”，理论联系实际，开展教育科学研究和学科基础理论研究，交流科技成果，促进学院教学、科研工作的发展，为教育改革和社会主义现代化建设做出贡献。

　　1956年“人工智能”概念正式诞生。在其60余年的发展过程中高潮低谷几经波折。2015年，谷歌的AlphaGo战胜围棋高手李世石，再次拉开了高潮的序幕，这距离上次高潮已经过去近30年。

　　从技术层面上讲，此次高潮是在上世纪80年代第二次浪潮基础上形成的。因为第二次浪潮是以人工神经网络为主流，而这一次高潮的技术基础—深度学习，恰恰是人工神经网络的一个具体方法。确切地说，是基于人工神经网络(基于人工神经网络的机器学习方法)的深化，它比以往任何机器学习方法更高效地解决更复杂的任务。当然，计算能力的提升以及大数据技术的发展也是深度学习的性能得以展现的主要原因。

　　应用层面上，从语音识别、机器翻译到医疗诊断、自动驾驶，基于深度学习的应用在不断加深、不断成熟，甚至在很多方面已经开始超越人类。由于一些成熟的技术带来的巨大的利益诱惑，国内外主流的互联网公司，如谷歌、亚马逊、Facebook、百度、腾讯等，纷纷布局人工智能，创业和投资的热潮也从前几年的无人机、虚拟现实全面延伸到人工智能领域。短短两年，全球已经有几千家人工智能公司，市场规模增长空间巨大，预计未来十年内将创造万亿美元的价值。

　　人类似乎已经进入了一个人工智能的美好时代，与此同时，在对未来的美好憧憬中，也不乏对人工智能带来的负面影响的担忧。这些担忧提醒人们在乐观期待未来的同时，也应关注人工智能可能带来的风险，这就产生了人工智能伦理问题。本文从强、弱人工智能两方面进行分析。

　　一、人工智能伦理的应有之意

　　历史上几乎每一项重大技术，比如电力、蒸汽机、通讯以及计算机和互联网等，都会给之前的传统社会带来风险和挑战，诸如失业、隐私、安全等等。而人工智能之所以比以往任何一个时代的技术突破都更引人关注，其原因在于，基于人工智能技术的人工物品或产品不再是毫无生气的机器。一方面，它们在智能程度上可以远超人类，比如目前机器在围棋、图像和语音识别等领域的突破;另一方面，具有人类的外观以及情绪、情感的机器人，可能会具有人格或人的属性。人类对人工智能而言，可能正在扮演“上帝”的角色，而“人类上帝”创造出的“人工智能体”有可能会反过来威胁人类，这是自世界上第一部科学幻想小说《弗兰肯斯坦》诞生以来就充斥科幻电影和小说中的标准桥段。

　　人类思想的伟大之处在于，能够把头脑中幻想的事物一点点变成现实。事实上，每一代人类所生活的现实世界某种程度上也正是前几代所万方数据幻想或构想的世界。我们当代人也不例外。原本只是停留在幻想中的伦理担忧和威胁似乎完整地映射到了现实世界，从而给人类带来了实实在在的困扰和恐慌。而当人类憧憬中的人工智能体正在我们这一代人手中得以推进和实现，就意味着我们必须承担防止所创造的智能体无序发展的责任，包括从道德规范、法律、教育与基本社会制度等，都需要采取相应的措施和全面的布局。其中，伦理规范是必须的手段。目前一些有识之士率先看到了其中的危机或风险，在机器伦理或机器人伦理领域开始前沿探索，一方面，是为了在真正的风险和威胁形成之前防患于未然，最大限度的将危险消灭在萌芽之中;另一方面，是为了引导技术力量，注重在源头开发、设计“友善的人工智能”，最大限度避免人工智能的“恶之花”，这就是人工智能伦理的应有之意。

　　二、机器伦理、人工智能伦理与科技伦理

　　“机器伦理”(MachineEthics)是一个正在兴起的伦理学研究领域，它关注如何使机器具有伦理属性。机器伦理是美国学者MichaelAnderson，SusanLeighAnderson和ChrisArmen最早提出的，他们在《走向机器伦理》( TowardsMachineEthics)中提出：“机器伦理关注于机器对于人类使用者page10和其他机器带来的行为结果”[1][2]。他们认为，过去对于技术与伦理问题的思考大多关注于人类是否负责任地使用了技术，以及技术的使用对人类而言有哪些福祉或者弊端。然而，很少有人关心人类应该如何负责任地对待机器。这里的机器实际上指的是具有人工智能的机器。由于机器的智能化发展使得机器负载着越来越多的价值和责任，从而使机器具有伦理属性，以帮助使用者做出伦理决策，或者发展一种具有伦理意向的自动机器以实现情景判断、案例分析和实时决策的功能，这是目前该领page10域的研究重点[3]。

　　然而，这里需要指出的是，机器伦理不能等同于人工智能伦理。在国外发展的机器伦理，往往与机器人伦理在概念上不加区分。这时我们可以认为机器伦理就是机器人伦理。但是就机器人与人工智能的关系而言，机器人本身是人工智能的重要研究领域之一，同时与计算机一样，也是呈现人工智能的载体。机器人是多种人工智能技术的集成，是以人类万方数据喜闻乐见的形象体现人工智能，同时能够完成各种不同任务。因此，就二者的关系而言，机器人引发的伦理问题也属于人工智能伦理问题，机器人伦理是人工智能伦理的一部分。

　　三、弱人工智能和强人工智能伦理

　　1. 弱人工智能技术的利与弊

　　弱人工智能是指各种模拟人或动物智能解决各种问题的技术，包括问题求解、逻辑推理与定理证明、自然语言理解、专家系统、机器学习、人工神经网络、机器人学、模式识别、机器视觉等。

　　以深度学习为基础的弱人工智能技术目前在图像识别、语音识别、机器翻译、自然语言处理等方面取得了巨大成功，并大规模市场化。在图像识别领域，基于深度学习的人脸识别、物体识别、行为识别等应用在医疗、交通、教育等行业都有广泛的用途，能够有效提高安全防范水平，打万击 犯罪和恐怖主义，惩治交通违法行为，提升交通安全水平等。深度学习+大数据模式甚至在文学创作、司法审判、新闻编辑、音乐和美术作品创作等方面也有惊人的表现，能够极大地提升工作效率和质量，降低人类的工作强度，激发人类的创作灵感，创作出更好的作品。弱人工智能技术给人类带来的益处是显而易见的。但因为不了解深度学习的运行机制，一些超出人类的能力反倒令人们开始惴惴不安。

　　2016年6月，微软总裁萨蒂亚·纳德拉(SatyaNadella)说“我们不仅想要智能机器，还需要可理解的机器。”尤其深度学习在医疗、金融、军事等关键领域的应用，使得弱人工智能伦理问题日益得到关注。与尚未实现的强人工智能在未来可能给人类带来的伦理困惑或问题不同，弱人工智能是在现实中可能给我们带来种种伦理风险或困惑。

　　四、人工智能伦理问题对策与机制

　　人工智能技术所产生的终端物品或产品，无论软件还是硬件，由于嵌入了智能算法或程序而具有了类人智能，甚至会产生自我意识，由此产生与人类之间的复杂的伦理关系以及人类自身的伦理关系的一系列变革，甚至颠覆人类社会自身的伦理关系。以深度学习为代表的机器学习算法的伦理问题与未来超级智能的伦理问题同样重要，包括道德代码、隐私、正义、有益性、安全、责任等等。未来我们需要进一步思考由于人工智能的发展所导致的人与人、人与机器，甚至机器与机器之间的伦理问题，努力规避负面影响，使人与人、人与机器、机器与机器，甚至与超人类(在机能与智能上远超现代人类的新人类)、后人类(基因改造与机器融合的新物种)之间的伦理秩序能够在符合人类理想，确保搭载着在某方面超越人类智能的技术工具进入人类社会以后和人类的价值规范及需求相一致育 提高全体社会公民在智能时代的人工智能素养，知晓弱人工智能技术可能带来的风险。

　　人类伦理设计强人工智能伦理规范。牛津大学哲学家尼克·波斯特洛姆针对强人工智能可能面临的各种伦理和法律问题提出了“建page10造美好的人工智能”的设想[7]，也就是按照建造一个种子人工智能，然后按照人类需要的方式去赋予其“与支配我们的思维的认识论相匹配的基本论原理”，它会随着世界理解的不断发展由它自己不断创造并修改其对世界的认识。强人工智能的实现将不再需要算法和程序。强人工智能伦理将是完全参考人类的伦理规范来确定，包括赋予有意识的人工智能以人格、法律主体地位，甚至承认其拥有与人类平等的权利—“人权”等等。

　　参考文献

　　[1] M.Anderson,S.Anderson,C.Armen,TowardsMachineEthics:ImplementingTwoAction-BasedEthicalTheories.InM.Anderson,S.Anderson,C.Armen(Eds.),MachineEthics:PapersfromtheAAAIFallSymposium,TechnicalReportFS-05-06.MenloPark,CA:AAAIPress,2005:1–7.

　　[2] 于雪,王前.“机器伦理”思想的价值与局限性.伦理学研究，2016,4：109–114.

　　[3] 杜严勇.机器伦理刍议,科学技术哲学研究.2016,(1):96–101.

　　[4] 曹建峰.怎样应对人工智能带来的伦理问题.学习时报,2017–6–14(007).

　　[5] [美]佩德罗·多明戈斯所.终极算法.北京:中信出版集团股份有限公司,2016.

　　[6] AllenC,SmitI,WallachW.Artificialmorality:Top-down,Bottom-up,andHybridApproaches.Ethicsandinformationtechnology，2005,7(3)：149–155.

　　[7] [英]尼克·波斯特洛姆.超级智能:路线图、危险性与应对策略.张体伟,张玉青译.

　　北京:中信出版集团股份有限公司,2015.

《强人工智能与弱人工智能的伦理问题思考》

本文由职称驿站首发，您身边的高端学术顾问

文章名称： 强人工智能与弱人工智能的伦理问题思考

文章地址： https://m.zhichengyz.com/p-37017