近年来，人工智能技术发展迅猛，为人类的生活、工作带来了便利。同时，有关人工智能的影视作品也层出不穷。不过，这些影视作品的呈现却不重在让我们关注人工智能带来的社会经济效益，而是更多地探讨人工智能及其使用者所应该承担的社会责任。人工智能在人类社会扮演着怎样的角色？我们应该如何在追求技术的同时避免其带来的威胁？上海交通大学出版社的新书《人工智能与价值观》里或许有你想知道的答案。

新书预告

即将开售
《人工智能与价值观》（订购）
李仁涵  黄庆桥等  编著
上海交通大学出版社

　　内容简介

　　人工智能正在以润物细无声的态势，进入各个产业领域和社会方面，预示着科技与经济、社会、生活融合的未来景象。深入了解人工智能的应用情况，准确评估其对社会道德价值体系产生的影响，将是我国应对下一个快速发展时期的重要手段，以便明确前进方向，实现精细治理，维护社会价值体系在科技大潮中的稳定和可持续发展。本书的研究内容从以下章节展开：第一章技术革命中的价值观演变、第二章人工智能发展带来价值观的重塑、第三章人工智能与美国价值观——控制文化的二次发育、第四章人工智能与欧洲价值观——以人为本、第五章人工智能与日本价值观——文化惯性、第六章人工智能与中国价值观—与时俱进（或和而不同）、第七章人工智能时代价值观重塑的基本原则。

　　作者简介

　　李仁涵教授，上海交通大学人工智能研究院首席顾问，国家新一代人工智能治理专业委员会委员。主要研究领域：科技发展战略和规划的研究与咨询；科技成果与产业化；智库建设等。曾编著或参与出版、翻译学术著作20多部。

　　黄庆桥，理学博士，上海交通大学马克思主义学院科学史与科学文化研究院副教授，博士生导师。主要从事中国近现代科学技术史、马克思主义理论的研究与教学。发表学术论文30余篇。

　　精彩预览

责任优先、从机器问题到数据价值

　　从历史的经验来看，在享受科学技术进步带来社会经济发展的同时必须高度警惕技术可能带来的威胁。中国社会价值观重视责任，强调责任优先，因此人工智能想要长久地发展，也要能承担起责任。但是在人工智能能否担当责任的背后，其实是中国社会到底是否信任人工智能，有两种普遍的讨论：一是能完全相信人工智能吗？特别是涉及生命安全的时候；二是能预防人工智能不会产生真正的威胁吗？

　　对第一个问题来说，人工智能带来了很多的不确定因素，不确定孕育不安全，人们对人工智能的信任有待考量。当涉及与生命安全有关的决定时，人们是不放心交给人工智能做出决策的，就算人工智能已经做出了决策，人们也不愿意相信它，从而按照人工智能给出的方法执行。

　　这是因为机器无论模仿多像人类，它都是陌生的，是一个物化的存在。人与人之间是可以展开同等性质的对话与沟通，并在此基础上，通过情感的理解与共通建立信任关系，但是人们却难以对人工智能产生某种具体的情感，由此信任感的建立缺乏基本的土壤。

　　在人们的观念中，人工智能的决定只是基于没有情感的数据分析，数据本身尚且有大堆信任问题需要解决，何况基于数据做出的推理决策呢？另一方面，中国社会价值观认为人处于社会关系中，面临的大部分问题不是某一领域的具体问题，而往往是综合各种因素的复杂问题，这种复杂度无法靠理性分析得出答案，而必须依靠人的情感，机器的“思维”活动不仅难以解释且难以与人类产生情感上的共鸣。而人与人之间则能够同时理解语言本身和言外之意、不仅解决问题还能感知到他人的感受而做出调整。所以对中国社会而言，人类的道德责任感和使命感人工智能是无法习得的，所以在遭遇危险的时候，尽管人工智能十分先进，中国人还是不会将自己的性命托付给人工智能，任凭其做出决定。在2019年上映的科幻电影《流浪地球》中，吴京饰演的领航员刘培强在拯救人类生命的问题上与人工智能moss产生冲突，刘培强不愿服从moss基于计算的决策结果，而认为拯救人的生命更重要，并最终没有听命于moss。中国人以仁义为主的责任感始终排在价值抉择的前列。

　　对第二个问题的思考，关乎到人们如何认知和定义人工智能的超级功用。人们希望人工智能具有超人的能力，帮助人类做一些对人类来说困难的事情，这种只在能力上超越人类的人工智能并不是对人类最大的威胁。如前所说，人工智能对人的威胁来源于其反思的能力，也就是人工智能的自我意识。那么这种威胁是否能预防呢？目前来看，不可得知。

　　中国的反省精神是达到修身齐家治国平天下的基本要求，吾日三省吾身是儒家传统，更是中国文化不可或缺的部分，它强调人内在的道德要求，也是中国人责任感的体现。如果机器也能进行诸如此类的思想活动，那么它“修身齐家治国平天下”意义指向何处？如果以预防此类情况的发生为发展人工智能的前提，那么人工智能的发展将走向何方呢？中国相信这些问题无法靠一国之力解决，人类命运休戚与共、息息相关，作为以责任意识优先的世界大国，中国希望能与其他国家协商推进，共同寻找应对之法，以避免由于国与国或者社会团体之间未达成一致而带来的冲突。

　　回到技术发展本身，目前中国机器人市场需求潜力巨大，工业与服务领域都颇具成长空间，据IFR统计，预计中国机器人密度将在2021年突破130台/万人，达到发达国家平均水平。2019年，中国工业机器人市场规模预计达到57.3亿美元，到2021年，国内市场规模进一步扩大，预计将突破70亿美元。

　　随着人口老龄化趋势加快，以及医疗、教育需求的持续旺盛，中国服务机器人存在巨大市场潜力和发展空间。2019年中国服务机器人市场规模有望达到22亿美元，同比增长约33.1%，高于全球服务机器人市场增速。其中，中国家用服务机器人、医疗服务机器人和公共服务机器人市场规模分别为10.5亿美元、6.2亿美元和5.3亿美元，家用服务机器人和公共服务机器人市场增速相对领先。到2021年，随着停车机器人、超市机器人等新兴应用场景机器人的快速发展，中国服务机器人市场规模有望接近40亿美元。

　　如此庞大的机器人市场规模使中国面临的人机道德问题更加棘手，既要高瞻远瞩应对未来潜在的危机，又要立足于现实，解决实际问题。比如说，如果理财机器人出现错误，损失应该由谁承担。理财机器人又叫智能投资顾问，是基于人工智能算法对客户的资产和消费数据、背景和风险偏好、投资习惯等进行分析后打造的一套投资组合。目前中国各大银行、证券公司和保险公司都不同程度地入局了相关产品，万一机器人出现问题或者被黑客攻击，投资者出现损失的责任算是谁的？又如在医疗机器人领域，虽然医疗机器人尚未普及，但是在一些医院，部分特定的机器人已经开始辅助医生工作，如果机器人出现故障，谁应该为医疗事故担责？

　　针对此类问题，中国以负责的态度积极回应，2018年11月中国全国人大常委会委员长会议组织人员进行专题学习，围绕规范人工智能发展进行学习讨论，认为全国人大相关专门委员会、工作机构和有关方面要及早动手，尽快行动，对人工智能涉及的法律问题进行深入调查研究，为相关立法工作打好基础、做好准备。

　　除以上有关机器道德责任的讨论，对人工智能发展影响重要的一个要素便是数据。大数据的涌现助推了本轮人工智能快速发展。人类社会自诞生之初，便开始与数据打交道，但数据的规模和种类都未曾像现在这般庞大和丰富。数据的获取和使用既是思考人机关系的一个重要维度，也是人工智能健康发展、获得社会信任的关键。在过去，人们在数据采集、存储和计算等方面受到限制，如今随着电子计算机的发展和高性能计算的支持，数据正推动一场前所未有的伟大革命，人工智能在众多领域的落地与应用，得益于基于大数据而实现的数据智能。

　　目前全球数据量仍在飞速增长，中国在数据上占据了相对优势，数据量大且数据种类多样丰富，数据的获取和使用也更加方便。这主要得益于中国人口基数大，伴随着信息化和数据化程度的提升，产生了大量的数据。2019年中国互联网络信息中心（CNNIC）发布《中国互联网络发展状况统计报告》，报告显示截至2018年12月，我国网民规模达8.29亿人，互联网普及率达59.6%，其中手机网民规模达8.17亿人。人们不仅上网娱乐休闲，还培养出二维码支付、手机缴费、手机出行等习惯，积攒了大量的数据。人工智能的出现，特别是高性能计算能力和智能算法的助力，为分析处理数据带来便利。

　　中国社会价值观对数据挖掘和分析的态度更加开放，对个人隐私保护的意识没有十分苛刻，愿意在社交、消费等场景下提供相关的信息来获取个性化的服务。比如，企业得以获知用户画像、行为偏好、信用状况等数据信息，推动企业业务模式、业务流程以及产品应用与服务等方面的变化，加速向着智能化的道路转型，创造新的价值。

　　另一方面，技术的跃升有力地帮助数据收集规模和范围的扩大。一般来说，数据采集的来源主要包括：业务层面的数据；社交媒体、自媒体数据；电商数据；自有App行为数据，以及各种互联网平台的互动数据和线下门店数据的录入等等，应用人工智能，尤其是计算机视觉的发展。这些数据能够规模化地收集、分析与处理，形成海量的数据库。计算机视觉涉及的技术包括人脸识别、图像识别、图像分割、图像生成，目标检测等，这些技术与日常生活中数据产生的场景密切相关，并帮助完成了大量的数据收集工作，人脸识别是计算机视觉中应用最为普遍的领域，中国在技术上的创新能力和研发实力已经领先于世界其他国家，不仅在价值观和政策上提供了更优质的发展土壤，而且投入了相当大的学术研究支持，并且“随着计算机视觉研究的不断推进，研究人员开始挑战更加困难的计算机视觉问题，例如：图像描述、事件推理、场景理解等”，对现实世界中诞生数据的更加复杂的场景进行理解。总而言之，计算机视觉技术利用摄像机和电脑代替了人眼来观察、读取这个世界的现象，并以数据的形式存储，进行快速地处理与分析，完成诸如分割、分类、识别、跟踪和判断决策等任务。

　　目前，在中国计算机视觉市场构成方面，安防领域占比最高，超过整个市场占比的一半，这也从侧面说明了中国数据资源何以如此丰富。中国的社会价值观倾向于安全先于隐私，群体高于个人，安防摄像头和交通摄像头应用广泛，全面对无人值守的场所或者公共场合进行安全维护，发现异常自动报警，出现交通违章自动分析，识别车辆车牌，规范交通。所以说，人工智能的发展促进了中国安防和交通领域服务能力的提升，但是归根结底，离不开中国社会价值观的有力支持。从政府和公共利益出发，基于数据的分析，为人们创造更加安全的居住环境和更加便捷的出行服务。

　　如此大规模的数据量和数据应用需求，也带来系列问题，如数据流通、数据使用规范、数据开放和数据安全等，这不仅是人工智能算法面临的困难与问题，更是国家社会经济发展面临的重大挑战与机遇。中国不仅要建立健全法律法规等手段规范数据的使用，前瞻性地做好应对措施，保障人工智能产业全面、可持续健康发展。同时，也要加快解决中国人工智能企业面临的数据开放程度低、数据流通困难、数据质量有待提高等问题，这些问题既有自身发展的内在局限，也有来自国际社会的规则障碍。在数据经济的大环境背景下，没有一个国家或组织能够独善其身，数据治理尤其重要。

　　2020年11月21日，中国国家主席习近平在二十国集团领导人第十五次峰会上指出，“面对各国对数据安全、数字鸿沟、个人隐私、道德伦理等方面的关切，我们要秉持以人为中心、基于事实的政策导向，鼓励创新，建立互信，支持联合国就此发挥领导作用，携手打造开放、公平、公正、非歧视的数字发展环境”，并表示，“中方提出了《全球数据安全倡议》，愿以此为基础，同各方探讨并制定全球数字治理规则，支持围绕人工智能加强对话，倡议适时召开专题会议，推动落实二十国集团人工智能原则，引领全球人工智能健康大展。”，2020年以贵州大数据综合试验区的实践为数据治理研究样本的系列丛书的第一册《数据治理之论》出版，书中指出，“价值释放是数据治理的根本目标。数据利用情况的好坏、价值释放的大小已成为一个国家、地区、组织综合竞争力的关键指标。通过理论与实践相结合、制度与技术双驱动，提升数据质量、促进共享开放与开发利用，为‘用数据说话、用数据决策、用数据管理、同数据创新’奠定良好基础，进而为推动国家治理体系和治理能力现代化奠定基础。”

来源：上海交通大学出版社